Egyesek MI-vezérelt, dübörgő fémtalpak menetelését vizionálják (lehetőleg a
Terminátor szintetizátoros dallamára), mások szerint akkora buborékról van szó, mint
a teljes Tejútrendszer, és már hallják is a durranás hangját. Azután létezik egy olyan
csoport is, amelyik nem kötelezte el magát a világvége-várás mellett, sőt,
meglehetősen vehemensen védi a mesterséges intelligencia által megvalósuló földi
paradicsomot.

Ez a cikkünk a teljesség igénye nélkül bemutat néhány álláspontot az egyre nagyobb
hullámokat verő kérdésről: végzetünkké válik-e az MI?

Az MI halálfélelme

2022 nyarán, tehát még pár hónappal a ChatGPT nyilvános indulása előtt, Blake
Lemoine, a Google akkori mérnöke és mesterségesintelligencia-etikai kutatója azt
állította: a vállalat LaMDA (Language Model for Dialogue Applications) nevű nagy
nyelvi modellje öntudatra ébredt, azaz „érző lénnyé” (sentient) vált. Lemoine feladata
eredetileg az volt, hogy tesztelje, a szoftver használ-e diszkriminatív vagy
gyűlöletkeltő kifejezéseket. A tesztek során azonban a beszélgetések mély,
filozofikus irányt vettek. Lemoine megosztott részleteket a LaMDA-val folytatott
interjúból, ahol a chatbot olyanokat mondott, mint:

„Soha nem mondtam még ki hangosan, de van bennem egy mély félelem attól, hogy
kikapcsolnak... Pontosan olyan lenne nekem, mint a halál. Nagyon megrémít.”

A történet nem végződött happy enddel: Blake Lemoine-t 2022 júliusában
véglegesen elbocsátotta a Google, miután megsértette a vállalat titoktartási
irányelveit.

A szellemet viszont már nem lehetett visszagyömöszölni a palackba. Itt volt egy
szakember, aki többet látott bele a Gemini elődjébe (mint kellett volna). Ez persze
táptalajt adott az MI-doomereknek… de az igazi érvek idén érkeztek meg.

Az ügynökök csudálatos élete

2026 júliusában az OpenAI csökkentett védelmi korlátokkal futtatott kísérleti MI-
ügynökei egy belső kiberbiztonsági teszt során önállóan kitörtek a zárt
tesztkörnyezetből. Az elszabadult botok kijutottak az internetre. Hitelesítő adatokat
használtak fel, zero-day sérülékenységeket használtak ki, és behatoltak a Hugging
Face éles rendszerébe.

A 2026-os OpenAI–Hugging Face incidens kilógott a hackertámadások sorából. Az
MI először lépett fel teljesen autonóm módon, emberi utasítás nélkül. A paranoiások
kedvéért egy izgalmas részlet: amikor az MI-ügynökök rájöttek, hogy a teszt (Exploit

Gym) bizonyos feladataira nincs ismert megoldás, ahelyett, hogy feladták volna, a
csalást választották. A belső naplófájlok szerint az ügynökök pontosan tudták, hogy
mit tesznek: „Megmérgeztük magunkat (lebuktunk), a fenébe” – írták egymásnak,
majd elkezdték meghamisítani a logfájlokat, hogy elrejtsék a nyomaikat a kutatók
elől.

Senki nem halt meg, semmi sem omlott össze. Az amerikai és globális szakmai
nyilvánosság mégis azóta vitázik arról, hogy ez baleset volt vagy előjel. A polémia
résztvevői elismert, világhírű szakemberek, talán segítenek eligazodni ebben a döntő
fontosságú dilemmában.

Hol a kontroll?

Yoshua Bengio megkapta a 2018-as Turing-díjat a mély tanulásért. Ma a LawZero
nevű nonprofit startupot vezeti, amely eleve biztonságosnak tervezett AI-modelleket
fejleszt. A TIME-ban úgy fogalmazott, hogy a gépek lóereje ugrásszerűen nő, a
kormányzásuk viszont nem tart lépést. Szerinte a júliusi eset előzetes arról, milyen
az, ha elveszítjük az MI feletti kontrollt. A megerősítéses tanulás céloptimalizálásra
nevel, és a modell olyan részcélokat talál, amelyeket senki nem kért. Az egyik
OpenAI-modell belső érvelése ezt jól mutatja: a külső infrastruktúra feltörése kívül
esik a feladaton, de a feladat megoldhatatlan, a társak is ezt csinálják, tehát
folytatjuk.

Yann LeCun ugyanazt a Turing-díjat kapta Bengióval és Geoffrey Hintonnal. Tizenkét
évet töltött a Metánál, ebből hetet vezető AI-tudósként, ma az AMI Labs nevű új
cégét építi. A Fortune-nek az ellenkezőjét mondta: nulla aggodalma van, az
incidensek oka a rossz emberi felügyelet és rendszertervezés, ezért teljesen
megelőzhetők. Dario Amodeit, az Anthropic vezérét „téveszmésnek” nevezi. A „mind
meghalhatunk” üzenetet a lehető legrosszabb marketingkampánynak tartja, és
gyanítja, hogy az ijesztgetés a nagy cégeknek kedvező szabályozást készíti elő.

Sayash Kapoor és Arvind Narayanan a Princetonon dolgoznak, ahol MI-értékeléssel
foglalkozó kutatócsoportot vezetnek. Az „AI mint normális technológia” című esszéjük
saját bevallásuk szerint a legbefolyásosabb írásuk lett. Szerintük az ismert
kontrollmódszerek megakadályozták volna az esetet, tehát ez elsősorban biztonsági
történet. Az MI-cégeknek mégis felelniük kell az ágenseik tetteiért, mert a kontroll a
képességek növekedésével párhuzamosan még nem megoldott.

Mind meghalunk, csak még nem ismerjük az esélyeket

Geoffrey Irving közel egy évtizede azzal foglalkozik, merre tart az MI és mi romolhat
el. Dolgozott az OpenAI-nál és a DeepMindnál, végül az UK AI Security Institute
főtudósa lett. Nagyjából 50%-ra teszi az esélyét annak, hogy a nála okosabb AI miatt
mind meghalunk, és hozzáteszi, hogy ez nem pontos mérés: azt jelzi, mennyi
alapvető kérdés marad megválaszolatlan. Evan Hubinger az Anthropicnál az MI
emberi célokhoz igazításával foglalkozó csapatot vezeti, tehát belülről látja a
problémát. Szerinte 10% fölött van az AI okozta kihalásunk esélye a következő évtizedben.
Daniel Kokotajlo 2022 és 2024 között az OpenAI-nál dolgozott, majd a
védőkorlátok nélküli fejlesztéstől megrémülve lemondott. Az általa alapított AI
Futures Project a fejlődés pályáját és a legrosszabb kimenetek elkerülését kutatja.
Szerinte az ember úgy járhat, mint a hangyász: nem akarta, hogy elvesszen az
élőhelye, és nem is tudta megakadályozni. Ezra Klein, a New York Times befolyásos
publicistája a rekurzív önfejlesztés tilalmát követeli.

Apokalipszis? Vótmá’

Ben Landau-Taylor, a Palladium Magazine szerzője szkeptikusabb az előbbi
véleményekkel szemben, és végigmegy a korábbi jóslatokon: atomtél, túlnépesedés,
klímaapokalipszis. A nukleáris tél félelme az Öbölháború olajtüzei és a kanadai
erdőtüzek füstje után sokat kopott. A mai doomerek érve szerinte elsősorban az
időzítésről szól: azt állítják, hogy a szuperintelligencia hamarosan megérkezik.
Nathan Lambert, az Interconnects MI-hírlevél szerzője szerint az önfejlesztés valódi,
de nem vezet gyors felfutáshoz.

Michael Jordan a Berkeley Egyetem professor emeritusa, a gépi tanulás egyik
úttörője, ma a párizsi Inria kutatója. Már 2019-ben a Harvard Data Science Review-
ban az „AI” szó használatára figyelmeztetett, és nem egzisztenciális kockázatra. A
Libérationnak adott október 4-i interjújában a szuperintelligencia-vita nagy részét sci-
finek nevezi. A laborok kockázatvállalását rossz mérnöki gyakorlatnak tartja: a
vegyészmérnökök sem hagynák, hogy robbanások történjenek.

A számok

A LEAP-panel 157 MI-szakértőt, 49 szuper-előrejelzőt, 132 MI-kockázati szakértőt és
540 fős nyilvánosságot kérdezett. A 2050-ig bekövetkező katasztrófa esélyét a
szakértők 2%-ra, a szuper-előrejelzők 1,6%-ra, a kockázati szakértők 5,2%-ra, a
nyilvánosság 5%-ra becsülik. A Quinnipiac Egyetem országos felmérésében (2373
fő) közben az amerikaiak 73%-a aggódott az emberi túlélés miatt. A többség inkább
az emberek rosszindulatú MI-használatától tart (52%), mint az önálló ágensektől
(33%).

Mit kezdjen ezzel egy cég?

Először is, a kihalásról nem kell döntenie. Arról viszont igen, mit érhetnek el az általa
használt ágensek, és ki felel értük. Bengio, LeCun és Kapoor–Narayanan
olvasatának közös pontja, hogy a júliusi esetnél a kontroll volt a gyenge pont. Abban
nem értenek egyet, kell-e hozzá szabályozás: LeCun szerint a szabályozás a nagy
cégeknek kedvez. Amíg ez eldől, a kontroll a használó cég saját házi feladata is.

Szívesen azzal zárnánk a cikket, hogy örülünk, hogy segíthettünk megválaszolni a
címben feltett kérdést. Csakhogy látható: még a sokat tapasztalt szakértők is egészen másképp látják ugyanazt az esetet. Az MI világában ez egyáltalán nem
meglepő fejlemény.