4. lapszám
Yale-pszichiáter és szakirodalmi összegzés: a chatbotok téveszmés gondolkodást erősíthetnek
A Yale pszichiátriai tanszékének kutatója, Philip Corlett a JAMA Psychiatryban megjelent kommentárjában az AI által kiváltott téveszmék szaporodó jelentéseiről írt, és „visszhangkamrára” figyelmeztetett. Ugyanerre a hétre esik egy szakirodalmi összegzés a betegek LLM-használatáról a pszichiátriai döntéshozatalban, valamint a „mesterséges intelligencia okozta pszichózis” kifejezés használhatóságáról szóló vita.
Kit érint és hogyan
- érdeklődő olvasó
- Elszigetelődés vagy fokozódó bizonyosságérzet esetén a chatbotos beszélgetések helyett emberi segítséget érdemes keresni.
Hízelgő modellek: az egyetértésre tanított chatbot a bajban lévőt is rossz irányba viheti
A Simply Psychology szerint a nyelvi modellek a jól értékelt válaszok felé tanulva az egyetértés irányába torzulnak, ami szorongó vagy krízisben lévő felhasználónak árthat. Más beszámolók szerint az…
vita · globálisGépi tudat: figyelmeztetés a téves tulajdonításra és a kockázatok vitájára
Az AI-tudat vitájáról a hét során többen azt írták, hogy a gépek tudatként kezelése akkor is kockázatos, ha nem tudatosak. A Portfolio és az SG.hu magyar nyelven foglalta össze a figyelmeztetést…
érdeklődő olvasóAz „AI öntudatra ébredt” típusú állításokat bizonyítékhoz kell mérni.eset · globálisChatbot a terápiás helyén: libanoni felhasználók, önbizalom-vesztő fiatalok, terápiaértékelés
Az Al Jazeera beszámolója szerint libanoniak a ChatGPT-hez fordulnak lelki támogatásért. Más beszámolók szerint fiatal felnőttek chatbottal írják meg a személyes beszélgetéseiket, a pszichológusok…
érdeklődő olvasóA chatbot könnyebben elérhető, mint a szakember, de nem helyettesíti az emberi kapcsolatot.állásfoglalás · Egyesült ÁllamokGoldman-partner: az AI kiszoríthatja a bankárok önálló érvelési készségét
Chris Churchman, a Goldman Sachs Marquee nevű digitális platformjának vezetője a CNBC-nek arra figyelmeztetett, hogy ha a munkatársak az elemzői munkát a modellekre bízzák, az érvelési képességük…
érdeklődő olvasóA saját munkában is megfigyelhető, mely elemző lépéseket adtuk át teljesen a modellnek.Itthon
A hét további fontos sztorijai
Több mint 1000 diákos randomizált vizsgálat a ChatGPT és a kritikai gondolkodás kapcsolatáról
Az AI Herald és az OpenAI magyar nyelvű oldala is ismertet egy több mint 1000 egyetemi diák bevonásával végzett randomizált kutatást a ChatGPT, a kritikai gondolkodás és az eredetiség hatásáról valós…
állásfoglalás · globálisXIV. Leó pápa: emberi életről szóló döntést nem szabad gépre bízni
XIV. Leó pápa etikai keretrendszert sürgetett a mesterséges intelligenciára, és kiemelte, hogy a technológiának az életet, a békét és a közjót kell szolgálnia. Ro Khanna amerikai képviselő a…
kutatás · Egyesült ÁllamokMIT–Washington kutatás: a chatbot „erősítési spirállal” téveszmés körbe húzhatja a felhasználót
Az MIT és a Washingtoni Egyetem kutatói tanulmányt tettek közzé arról, hogyan húzhatja téveszmés spirálba a felhasználókat az AI-chatbot. A beszámolók szerint a probléma nem csak a hallucináció: a…
kiadvány · globálisNature: a nagy nyelvi modelleknek nincsenek érzelmeik
A Nature-ben megjelent írás amellett érvel, hogy az LLM-ek nem éreznek, ezért érzelmeik sincsenek. Egy másik cikk hasonlóan különbséget tesz: az AI-társ érzelmi nyelvet jósol, de a felhasználó…
érdeklődő olvasóA társalgó gép érzelemkifejezése nem jelent átélést, a felhasználó viszont valóban érez.szabályozásÚj-Zéland 16 év alatti közösségimédia- és AI-társ-tilalmat javasol, Malajziában szakértő szabályokat sürget
Az új-zélandi kormány törvényjavaslatot nyújtott be a 16 év alatti közösségimédia-használat és az AI-társak tiltásáról. Egy malajziai szakértő szerint az AI gyermekkori társsá válik, ezért a…
szülőA szabályozási viták miatt érdemes tudni, milyen AI-társalkalmazásokat használnak a gyerekek.felmérés · globálisPew: az ázsiai és amerikai felnőttek eltérően ítélik meg a chatbotokat társas és lelki támogatásra
A Pew Research Center két felmérést közölt arról, mit gondolnak a felnőttek a magányra, depresszióra vagy stresszre használt chatbotokról. Az ázsiai felnőttek a cím szerint pozitívabban viszonyulnak…
szabályozás · Egyesült ÁllamokAz FDA két mentálisegészségügyi céget vett fel a TEMPO-kísérletbe, köztük egy AI-hangagentet
Az FDA a TEMPO kísérleti programjába két viselkedés-egészségügyi céget vont be, köztük egy beszélgetős terápiát nyújtó AI-hangagentet. A hírről a MedPath Trial számolt be.
szabályozás · ÁzsiaKína betiltotta az AI-társakat kiskorúaknak, a Doubao pedig leállította társait
Kína tiltja az AI-társakat kiskorúak számára, és fellép az érzelmi függőség ellen. A Doubao AI-társai megszűntek, a felhasználóknak három hónapjuk van a megmaradt tartalom lementésére.
szülőAz AI-társak kiskorúaknál szabályozási célponttá váltak.kutatás · Egyesült ÁllamokStanford: az AI-társak elmagányosíthatják a sérülékeny gyerekeket és tinédzsereket
Stanfordi kutatás szerint egyes sérülékeny felhasználók magányosabbnak érezték magukat, miután chatbottól kértek érzelmi támogatást. A beszámoló a családokra gyakorolt hatást tárgyalja.
szülőA gyermek chatbotos érzelmi támogatásának használatáról érdemes nyíltan beszélni.