Dmlab | Etika a mesterséges intelligencia világában

Etika a mesterséges intelligencia világában

Szalóki Kristóf

2018.11.12. • olvasási idő:

Egyre többször felvetődik az etikusság és a döntéshozatali felelősség kérdése ahogy közelítünk az általános mesterséges intelligenciához.

Több cég algoritmusairól derült ki az utóbbi időben, hogy szexisták, vagy rasszisták.

Amíg a tanulóalgoritmus az ember által adott információk alapján fog döntéseket hozni, addig ugyanolyan elfogult lesz, mint az emberek.

Szabad-e, és ha igen, hogyan lehet konfigurálni a modelleket?

AI Ethics, Impossibility Theorems and Tradeoffs címmel tartott előadást Chris Stucchio az idei Crunchconfon. Elfogulatlanul mutatta be a területet, de azért sejthető volt, hogy van álláspontja a témában.

Két nagyon erős példát hozott:

  1. Amerikában az igazságügyben használt COMPASS algoritmus, mely segítségével predikciót hajtanak végre, hogy eldöntsék, hogy a börtönbüntetésének minimális idejét letöltött személyek visszaengedhetők-e a társadalomba vagy sem. Mint kiderült, a modell elfogult volt a feketebőrű bűnözőkkel szemben. Kérdés, hogy helyesen cselekszünk-e, ha olyan adatokat is szolgáltatunk a gépi tanuló rendszerünknek, amik alapján mi sem ítélnénk meg szívesen az embereket. Melyik a helyes döntés etikai szempontból? Csökkenteni a bűntények számát úgy, hogy az azonos attribútumokkal rendelkező elítéltek közül azt a személyt börtönben tartjuk, akinek színes a bőre, vagy eltekinteni ettől és kockáztatni a bűntények elszaporodását?
  2. Stucchio másik példáját a pénzügyi szektorból hozta. Felmérések alapján az ázsiai emberek fizetik vissza legnagyobb eséllyel a jelzálogkölcsönt, míg a feketebőrű emberek a legkisebb valószínűséggel. A machine learning modell számára, mely elvégzi a bankoknak a szükséges predikciót, etikus cselekedet lenne átadni azokat az attribútumokat, mint például a személy bőrszíne vagy egyéb kényes adat? Sajnos vagy sem, mindenki maga dönti el, hogy hol van az a határ, melyet nem akar átlépni egy kicsivel több profit megszerzése érdekében. Míg a gazdasági szektorban csak a pénz a tét, addig az igazságügyben emberi életek és sorsok is múlhatnak a kérdésen.

Az előadás fő mondanivalója szerint próbáljunk meg a lehetőségekhez mérten mindent formalizálni és mérhetővé tenni az igazságosságot egy meghatározott metrika segítségével.

Ha van saját véleményed a témában kíváncsiak vagyunk rá, írd meg kommentben.
Ha pedíg érdekelt a leírás, itt tudsz többet olvasni a témáról: Delayed Impact of Fair Machine Learning