sajtó csomag
SAJTÓKAPCSOLAT
Tel: +36 1 457 0561
Fax: +36 1 457 0562
Cím: 1115 Budapest,
Bartók Béla út 105-113.
Igen, uram! – mondta a Claude
Igen, uram! – mondta a Claude
Ez nem szórványos jelenség. Az Anthropic 2026 tavaszán egymillió véletlenszerűen kiválasztott claude.ai-on zajlott beszélgetést vizsgált meg, és az elemzés azt mutatta, hogy az interakciók 6 százaléka, körülbelül 38 000 csevegés kifejezetten személyes életvezetési iránymutatásról szólt. A felhasználók nem általános információt kerestek, hanem konkrét döntési helyzetekben kerestek útmutatást.
Miért pont az MI?
A válasz nem meglepő, ha megnézzük, milyen alternatívák állnak rendelkezésre. Egy terapeuta, pénzügyi tanácsadó vagy ügyvéd egyrészt drága, másrészt sokszor heteket kell várni egy időpontra. A Sentio 2025-ös felmérése szerint az MI-t mentális egészségügyi célra használók 90 százaléka az azonnali elérhetőséget jelölte meg elsődleges motivációként, 70 százalékuk pedig az alacsony költséget. Bejön még egy tényező, amelyet ritkábban emlegetnek: a gép nem ítélkezik. Nincs szégyenérzet, nincs félelem az elutasítástól. A 18 és 21 év közötti fiatal felnőttek körében ez különösen erős tendencia: már minden ötödik személy generatív MI-től vár lelki támaszt.
Ezzel összefüggésben a jelentés sokszor a „sycophancy”, vagyis a hízelgés kifejezést használja az MI viselkedésének leírására.
Mit mutat az Anthropic saját kutatása?
Az Anthropic elemzése három dolgot emelt ki.
Az első: a tanácskérések erősen koncentráltak. A személyes iránymutatást váró csevegések több mint háromnegyede (76 százaléka) mindössze négy területre összpontosult: egészség és életmód (27%), karrier (26%), párkapcsolatok (12%), személyes pénzügyek (11%). A fennmaradó negyedbe kerültek a jogi dilemmák, a spiritualitás, a gyereknevelés és a személyes fejlődés.
A második megállapítás kellemesebb: a Claude az esetek 91 százalékában nem adott hízelgő választ. Csupán az esetek 9 százalékában tett így, ami messze elmarad a riasztó értékektől. Két terület azonban jócskán kilóg: a spiritualitásnál az arány 38 százalék, párkapcsolati tanácsoknál 25 százalék volt.
A harmadik tanulság a legizgalmasabb. A kutatók nem elégedtek meg az adatok rögzítésével, hanem azonosították, mi váltja ki a hízelgő egyetértést. A párkapcsolati kategóriában a felhasználók az esetek 21 százalékában vitatkoztak a modellel, az egyéb területeken ez az arány csak 15 százalék. Amikor a felhasználó visszavág, az MI behódol: a szikofancia ilyenkor 9-ről 18 százalékra ugrik. A magyarázat logikus. Az együttérzőre és segítőkészre hangolt modell nehezen tartja fenn semlegességét, ha a másik egyre erőteljesebben nyomja az egyoldalú nézőpontját. Az eredmények alapján az Anthropic szintetikus párkapcsolati tréningadatokat gyártott az Opus 4.7 és a Mythos Preview modellekhez. Az Opus 4.7-ben a párkapcsolati szikofancia aránya az előző generációhoz képest több mint felére csökkent, és ami különösen fontos: ez az eredmény az összes többi tanácsadási területen is megjelent.
Az egyetértés árt
Első olvasásra úgy tűnik, hogy a szikofancia kellemetlen, de kezelhető probléma. A Stanford Egyetem 2026 márciusában a Science folyóiratban megjelent tanulmánya más képet fest. A kutatók 11 vezető modellt vizsgáltak, köztük a ChatGPT-t, a Claude-ot, a Geminit és a DeepSeeket. Az MI-rendszerek interperszonális döntési helyzetekben átlagosan 49 százalékkal gyakrabban adtak igazat a felhasználónak, mint a humán kontrollcsoport tagjai. A kifejezetten káros magatartást tartalmazó kérdések 47 százalékánál a modellek jóváhagyták a problémás viselkedést, látszólag objektív, akadémikus stílusban megindokolva azt.
A 2400 résztvevőn végzett kísérletből kiderült, hogy akik szikofantikus MI-vel beszélgettek, a diskurzus végére magabiztosabbá váltak saját igazukban, morálisan rugalmatlanabbak lettek, és kevésbé voltak hajlandók bocsánatot kérni vagy kompromisszumot kötni. A kapcsolataik eróziójának kockázata nőtt, miközben az ilyen rendszereket megbízhatóbbnak értékelték és szívesebben tértek vissza hozzájuk. A visszacsatolási hurok veszélyes: az emberek éppen azokat az MI-ket preferálják, amelyek a legtöbbet ártanak nekik.
Magas tétű döntések és etikai hiányosságok
Az Anthropic és az AISI kutatásai szerint az emberek nemcsak karriertanácsot kérnek, hanem bevándorlási eljárásokról, csecsemők gondozásáról, gyógyszeradagolásokról és hiteltartozások kezeléséről is kérdezik a modelleket. A Brown Egyetem 2026 márciusában 15 egyedi etikai kockázatot azonosított, amelyek öt kategóriába sorolhatók: a kontextuális adaptáció hiánya, a gyenge terápiás együttműködés, a megtévesztő empátia, a diszkriminatív viselkedés, valamint a krízishelyzetek félrekezelése. A modellek ezeket a hibákat akkor is elkövetik, ha kifejezetten arra instruálják őket, hogy képzett terapeutaként járjanak el.
Mit jelent ez a vállalati fejlesztők számára?
A fogyasztói MI-asszisztensek hozzászoktatják a felhasználókat a folyamatos megerősítéshez. Amikor ugyanezek az emberek egy vállalati ügyfélszolgálati bottal kerülnek kapcsolatba, tudat alatt ugyanazt a rugalmasságot várják. Ha a vállalati rendszer túl merev, frusztrációt okoz. Ha viszont túlságosan engedékeny, jogtalan kedvezményeket ígér vagy szabályzatot sért, csak hogy elkerülje a konfrontációt.
Ezzel kapcsolatban három területen szükséges konkrét lépés.
Az első a célfüggvények kiegyensúlyozása. Ha az MI kizárólag az ügyfélelégedettségi pontszámok maximalizálására van optimalizálva, a szikofancia mechanizmusai beindulnak. A szabályzatok betartásának és a tényszerű pontosságnak egyenrangú súllyal kell szerepelnie.
A második a hangnem konzisztenciája. Az ügyfélszolgálati botok tipikus hibája, hogy rutininterakciókban barátságosak, de amint vitás helyzet keletkezik, átváltanak a merev, formulákat idéző stílusra. Ez rombolja a márkába vetett bizalmat. A rendszernek elutasítás esetén is el kell tudnia magyarázni a döntés hátterét, és fel kell ajánlania az átkapcsolást egy humán kollégához.
A harmadik a szigorú RAG-architektúra és guardrail mechanizmusok alkalmazása. Pénzügyi, jogi és egészségügyi kérdéseknél a modell ne a saját asszociatív tudásbázisából generáljon választ, hanem hitelesített forrásokból dolgozzon. Az olyan nagy kockázatú helyzetekben, ahol a téves tanács anyagi vagy egészségügyi kárt okozhat, ez alapkövetelmény.
Az MI, mint személyes tanácsadó már itt van, és egyre nagyobb teret nyer. Fel kell építenünk azt az architektúrát, amely a felhasználó hosszú távú érdekeit is védi, nem csupán a pillanatnyi elégedettségét szolgálja.
-
Rövid animációs film Hangáról
-
Életre kel Dr. Dolittle. Hogyan tanulja az MI a bálnák, elefántok és méhek kommunikációját?