sajtó csomag
SAJTÓKAPCSOLAT
Tel: +36 1 457 0561
Fax: +36 1 457 0562
Cím: 1115 Budapest,
Bartók Béla út 105-113.
Mi a közös az OpenAI-ban és Jézus Krisztusban?
Mi a közös az OpenAI-ban és Jézus Krisztusban?
Elsőre meglepett, hogy az OpenAI egyik legfontosabb erényként az alázatot említi az alap értékek között, amik mentén a döntéseiket hozzák. Az alázatot ők úgy értik, mint a saját tudás határainak felismerését és ezen korlátok tudatában való döntéshozást és cselekvést. Csakhogy a hallucinációk jelensége ennek pontosan az ellenkezőjét jelenti: a modell magabiztosan állít valótlanságokat. Vagyis alázat helyett önbizalommal telve ír akár teljes ostobaságokat. A saját definíciójuk szerint a hallucináció amikor „a modell magabiztosan generál egy választ, ami nem igaz”. Vagyis cseppet sem alázatos, tehát nem követi az OpenAI értékrendjét? Akkor vajon hova programozták be az alázatot? Vagy csak a honlapon jól mutat? Le is írják a választ: a modell jelenleg a magabiztos tippelést részesíti előnyben a bizonytalanság felvállalásával szemben.
Részmegoldás lehetne, ha a bizonytalanabb állításokat a modell körbebástyázná olyan szófordulatokkal amik érzékeltetik, hogy nem teljesen biztos a dolgában, például: „A rendelkezésemre álló információk alapján a legvalószínűbb válasz a következő:…” Hiszen a bizonytalanság mértéke objektíven mérhető ezekben a modellekben. Vagyis megtanulhatna alázattal hallucinálni, akkor az olvasó sem nyelne be remélhetőleg mindent elsőre, mintha megkérdőjelezhetetlen igazság volna.
Azt hiszem rég volt ekkora felelősség egy cég kezében, mint most az OpenAI-é a világra gyakorolható hatás lehetőségének tekintetében, de valljuk be, az alázat hiánya nemcsak a mesterséges intelligencia gyenge pontja, hanem a miénk is. A magabiztos megmondóemberek korában, ahol rengetegen kész tényként tálalják a saját igazságaikat, különösen nagy szükség lenne a kritikus gondolkodás mellett a szerényebb, alázatosabb megszólalások divatjának elterjesztésére. És ne feledjük azt sem, hogy a ChatGPT tőlünk tanulta, amit tud, így a mi hibáink is visszaköszönnek benne.
Végül pedig még egy dologban hasonlít az OpenAI Jézus Krisztusra: egyre többen fordulnak hozzájuk a ChatGPT-n keresztül mindennapi „fohászaikkal”, akár egy modern digitális Messiáshoz. Ha valaki, hát ők igazán jó példát mutathatnának az alázatos kommunikációban.
-
Nem szerelemre, hanem figyelemre van szükség
-
Barátod, az MI, nem a barátod