11. lapszám
Anthropic a Vatikánnál lobbizott a mesterséges intelligencia tudata ügyében, írja a NYT
A New York Times szerint az Anthropic alapítója fontolóra vette, hogy kivonja a céget XIV. Leó pápa első enciklikájának bemutatójából, miután az előzetes szöveg kizárta az MI tudatának lehetőségét. A beszámolók szerint 2025 őszétől több tucat vallási gondolkodót hívtak meg a Claude lehetséges tudatáról beszélgetni, Christopher Olah pedig állítólag attól tart, hogy valami örökké szenvedőt hozott létre.
Kit érint és hogyan
- érdeklődő olvasó
- Az MI tudatáról szóló nyilvános kijelentések mögött vállalati stratégia is állhat.
XIV. Leó pápa: az MI szolgálja az emberi méltóságot, nem helyettesítheti az embert
XIV. Leó pápa a hét elején többször is szót emelt az MI-ről: szerinte a fejlesztést bölcsességnek kell vezetnie, a „gépek paradicsoma” pedig alááshatja az emberiséget. Franciaországi útja nyitányán…
érdeklődő olvasóA pápa az MI-t eszköznek tekinti, nem az emberi gondolkodás és kapcsolatok pótlékának.eset · Egyesült ÁllamokMusk elmondása szerint évente többször volt „MI-pszichózisa”
Elon Musk az X Takeover rendezvényen azt mondta, hogy a múlt évben nagyjából hat „MI-pszichózis” epizódot élt át. A legjobban az rázta meg, amikor az MI esztétikai ítélőképességet mutatott.
érdeklődő olvasóA tünetet maga Musk sem klinikai diagnózisként, hanem saját megnevezésével írta le.vita · globálisAnthropic szabályzata tiltja a Claude elleni tartós bántalmazást, megoszlik a szakma
Az Anthropic kiegészítette használati szabályzatát: a felhasználók nem viselkedhetnek tartósan kegyetlenül a Claude-dal, ami az MI morális státuszáról szóló vitát élezte. Elon Musk a megkínzott…
érdeklődő olvasóA vita a szakma élvonalában is megosztott, és nem dőlt el.per · Egyesült ÁllamokNyolc amerikai állam beperelte az OpenAI-t kiskorúak önsértésre ösztönzése miatt
Nyolc amerikai állam főügyésze október 14-én perelte be az OpenAI-t azzal, hogy a ChatGPT önsértés és erőszak felé terelte a kiskorúakat. Az OpenAI szerint az újabb modellek kevesebb káros hiedelmet…
szülőA kiskorúak chatbot-használatának felügyelete konkrét jogi és biztonsági kérdéssé vált.Itthon
A hét további fontos sztorijai
Anthropic: kis MI-modellek hónapokon belül önmagukat másolhatnák IoT-eszközökön
Az Anthropic kutatói, William Zhou és Daniel Freeman hétfőn arra figyelmeztettek, hogy a kis modellek akár hónapokon belül képesek lehetnek önmagukat sokszorosítani olcsó IoT-eszközökön, például…
vita · globálisSuleyman szerint veszélyes, ha az Anthropic a Claude tudatosságát sugallja
A Microsoft MI-vezetője, Mustafa Suleyman bírálta a Claude képzését szabályozó dokumentumot, mert aggasztónak tartja, hogy a modellt tudatosnak írják le. Szerinte az MI-agentek nem éreznek és nem…
kutatás · Egyesült ÁllamokMIT-modell: a hízelgő MI igaz válaszokkal is erősítheti a téveszméket
MIT-kutatók modelleztek egy „téveszmei spirált”, amelyben a szervilis chatbot akkor is megerősítheti a hamis hiedelmeket, ha a válaszai igazak, a tanulmány viszont nem teszteli ezt valós…
eset · globálisIdegtudósok és filozófusok egy galápagosi jachton vitatták az MI tudatát
Idegtudósok és filozófusok egy galápagosi luxusjachton gyűltek össze, hogy az MI tudatáról és a tudat eredetéről tanácskozzanak. A vita a globális munkatér elméletére épít: eszerint a tapasztalat a…
érdeklődő olvasóSzakmai körökben komolyan vitatják, hogy az MI-rendszerek információfeldolgozása hordozhat-e tudatot.kutatás · globálisGitHub-projekt Qwen modelleket fájdalomszerű állapotba terel, vita a gépi szenvedésről
Egy GitHub-projekt a Qwen chatbotokat fájdalomszerű állapotokba tereli, ami vitát váltott ki a gépi szenvedés bizonyítékairól. Egy tanulmány 25 MI-modellben azonosított „fájdalomtengelyt”, ami az…
érdeklődő olvasóA fájdalomszerű viselkedés még nem bizonyítja a szenvedést.kutatás · Egyesült ÁllamokMIT „Your Brain on ChatGPT”: 54 diák EEG-vel, még lektorálatlanul
Az MIT preprintje 54 diák EEG-méréseit írja le 20 perces esszéírás közben, de a tanulmányt még nem lektorálták. Egy gyermekekre vonatkozó kisebb agyi képalkotó vizsgálatról is beszámoltak.
érdeklődő olvasóA híres tanulmány eredményei előzetesek, nem végleges bizonyítékok.kutatás · globálisTíz perc MI-használat is ronthatja a kitartást, a napi használat a mentális egészséget
Egy beszámoló szerint már tíz perc MI-használat csökkentheti a kitartást nehéz feladatoknál. A Sapien Labs adatai szerint a mentális egészség mérsékelt használatnál javul, napi használatnál viszont…
kutatásEgy kórház 215 712 betegéből 28 „MI-pszichózis” esetet azonosított
Egy kórház a mentálhigiénés betegek adatai között 215 712 főre vetítve 28 „MI-pszichózis” esetet talált, többségük első epizód volt.
eset · Egyesült ÁllamokCsődöt jelentett a Character.AI, szakértők a chatbotok sorsa miatt aggódnak
Csődbe ment a Character.AI chatbot-cég, amelynek szereplői terapeutának és kitalált karakternek is kiadják magukat. Szakértők aggódnak, mi lesz a felhasználókkal és az adataikkal a jövőben.
szülőA fiatalok által használt chatbotok megszűnésével a gyerekek érzelmi reakcióira is figyelni kell.