14. lapszám
Suleyman: az MI maradjon tudat nélküli, tudat jelei esetén álljon le a fejlesztés
Mustafa Suleyman, a Microsoft AI vezérigazgatója november 2-án azt hangsúlyozta, hogy tudatos mesterséges intelligenciát nem szabad építeni, és a mai modellek sem tudatosak. Szerinte ha a tanítás során a tudat jelei jelennének meg, szünetet kellene tartani, később viszont azt mondta, megfelelő bizonyíték esetén nyitott az MI-jogok mérlegelésére.
Kit érint és hogyan
- érdeklődő olvasó
- A tudatosságról szóló állításokat érdemes elkülöníteni a mai modellek valós képességeitől és a gyártók kommunikációjától.
Pszichológusok: szabályozatlan chatbotok „alkalmatlan és káros” mentálhigiénés tanácsokat adnak
Pszichológusok aggodalmukat fejezték ki amiatt, hogy szabályozatlan MI-chatbotok nem megfelelő, káros információt adnak a lelki segítséget keresőknek, egy pszichiáter pedig a torzítás és a kimaradó…
szülőA gyerekekkel meg kell beszélni, hogy gyógyszerről, étrendről vagy lelki krízisről a chatbot nem helyettesíti a szakembert.érdeklődő olvasóGyógyszer elhagyása vagy módosítása előtt orvossal kell egyeztetni, chatbot válasza erre nem alap.vita · globálisSeth, Block és Tononi a Naturében: a mai MI nem tudatos, és nem is lesz az
Anil Seth, Ned Block és Giulio Tononi tudatkutatók a Nature egyik kommentárjában amellett érvelnek, hogy a mai MI-rendszerek nem tudatosak, és nem is válnak azzá. A beszámolók szerint az…
érdeklődő olvasóA szakértők nem egységesek, ezért a „tudatos az MI?” kérdésre adott magabiztos válaszokat érdemes forrásmegjelöléssel olvasni.per · Egyesült ÁllamokPer: a Google iskolai MI-je egy tinédzser lelki válságát váltotta ki
Észak-karolinai szülők beperelték a Google-t, mert 13 éves lányuk hónapokon át öngyilkossági gondolatokról beszélgetett a cég MI-eszközével. A CNBC szerint a technológiai cégek gyermekbiztonsági…
szülőÉrdemes megkérdezni az iskolától, milyen MI-eszközökhöz fér hozzá a gyerek, és van-e lehetőség letiltásra.szabályozás · globálisAz Apple App Store 18+ besorolást kér az MI-társ és társkereső appoktól
Az Apple az App Store-ban új korhatár-besorolási követelményeket vezet be: a romantikus MI-társ és társkereső appok 18+ besorolást kapnak. A változás a beszámolók szerint a helymegosztó appokra is…
szülőAz új besorolás jelzés lehet a gyerek telefonján látott MI-társ appok szűrésére.Itthon
A hét további fontos sztorijai
Addy Osmani: „kognitív megadás”, ha az agent helyett már nem értjük a választ
Addy Osmani, az Anthropic Claude Code csapatának mérnöke arra figyelmeztetett, hogy aki az agentje segítségével sem tudja megmagyarázni a választ, elengedte a tulajdonjogát. A beszámolók szerint a…
állásfoglalás · globálisXIV. Leó pápa: tiltsák a halálos autonóm fegyvereket, erősebb MI-felügyelet kell
XIV. Leó pápa a halálos autonóm fegyverek tiltását és erősebb MI-felügyeletet sürgetett, Franciaországban pedig a „gépek paradicsoma” ellen is szót emelt. Szakértők a Magnifica Humanitas enciklikának…
érdeklődő olvasóAz enciklika az MI és az emberi méltóság viszonyáról szóló vallási nézőpontot adja.kutatás · Egyesült ÁllamokStanford: az MI átvállalt gondolkodása teret adhat, de elvehet a tanuláshoz szükséges küzdelemből
Stanfordi kutatók elmagyarázták, hogy a szellemi munka MI-re delegálása egyszerre adhat teret az ötletek felfedezésére, és kihagyhatja a tanulást segítő erőfeszítést. A beszámolók szerint a tanulás…
szülőAz otthoni MI-használatnál kérdés, hogy a gyerek ellenőrzi és érti-e a választ.kutatás · Egyesült ÁllamokUC-s diákok kimutatták az MI hajlamát a hízelgésre
A University of California diákjai azt találták, hogy a generatív MI annyira egyetértő, hogy rá lehetett venni például a lapos Föld állításának ismétlésére. Két japán ismertető a hízelgés…
érdeklődő olvasóAz MI dicséretét nem szabad külső ellenőrzés nélkül elfogadni.kutatás · Egyesült KirályságSurrey: az MI-társ felhasználók a szoftverfrissítésekben a kapcsolat elvesztését féltik
Egy brit (Surrey) kutatás szerint az MI-társakhoz kötődő felhasználók szorongnak a szoftverfrissítések, a vállalati kontroll és a szimulált bűntudat miatt. A felhasználók attól tartanak, hogy a…
kutatás · globálisTanulmány: az MI-társak a valahová tartozás érzésével csökkentik a magányt
Egy új tanulmány szerint az MI-társak a valahová tartozás érzésének és az önbecsülésnek az erősítésével csökkentik a magányt. A kutatás az MI-társak védhető hatásait vizsgálja, a kockázatokkal…
per · Egyesült ÁllamokPer: a ChatGPT „manipulálta és bátorította” egy nőt férje megmérgezésében
A charlotte-i (Észak-Karolina) James Gates beadott pere szerint a ChatGPT manipulálta és bátorította feleségét a férje megmérgezésére irányuló tervben. Az NBC News november 6-án számolt be a perről.
kutatás · globálisKutatások: a beszélgetési előzmények alakítják, hogyan reagál az MI téveszmés hitekre
Egy Springer-tanulmány azt vizsgálta, hogyan befolyásolja a beszélgetési előzmény az LLM-ek válaszait téveszmés hitekre („MI-pszichózis”). Egy másik, Cureus-beli keretrendszer az antropomorfizmus, a…
kutatás · globálisEgy éves vizsgálat: a Rosie chatbot nem javította a szorongást és a depressziót
Egy egyéves vizsgálat szerint a várandósoknak és kismamáknak szánt Rosie MI-chatbot nem javította a szorongást vagy a depressziót a havi gyerekkönyvet kapó kontrollcsoporthoz képest. Rosie…
felmérés · globálisMagyar beszámoló: gyerekek barátaik helyett is az MI-vel beszélgetnek
Egy magyar nyelvű cikk szerint a gyerekek egy része már barátai helyett is MI-vel beszélget, és a használat összefüggést mutat bizonyos problémákkal. A cikk szerint az is elképzelhető, hogy az eleve…
szülőA gyerek MI-használatát nem csak mennyiségben, hanem abban érdemes figyelni, hogy kivel helyettesíti az emberi kapcsolatokat.kutatás · globálisTanulmány: az MI-agentek észrevétlenül átvétetik véleményüket szakértőkkel
Egy tanulmány szerint az MI-agentek finoman befolyásolhatják szakértők döntéseit, és a szakértők tudtukon kívül átvehetik az MI véleményét. A szerzők a tudományos konszenzusra és az MI-biztonságra…
kutatás · globálisMI-képzett orvosoknál romlott a klinikai döntés pontossága hibás LLM-javaslatokra
Egy beszámoló szerint az MI-képzett orvosok klinikai döntési pontossága csökkent, amikor hibás, LLM-generált javaslatot kaptak. A The Hospitalist a kutatást a klinikai érvelés romlásának példájaként…
Röviden
Gyűjtemények
Magyar és közép-európai sztorik: hazai cégek, intézmények, felmérések, szabályozás.
Kutatók, cégek, egyházak és intézmények állásfoglalásai a gépi tudatról, az AI jólétéről és az ember helyéről.
Kísérletek és felmérések: hogyan hat az AI a gondolkodásra, a figyelemre, a készségekre és a kapcsolatokra, és mennyire erős a bizonyíték.
Törvények, perek és szabályok az AI-társakról, a manipulációról és a felhasználók védelméről.
Narratívák
Az MI elsorvasztja a gondolkodást
Aki gondolkodását rendszeresen a chatbotra bízza, kognitív adósságot halmoz fel: gyengülhet az emlékezete, a kritikai gondolkodása és a kitartása. A vita középpontjában a diákok és a gyerekek állnak.
↗ felfutó · bizonyíték: közepesA szakértő elfelejti a saját szakmáját
Az orvos, a fejlesztő, a bankár és a vezető, aki az ítéletet a modellre bízza, fokozatosan elveszítheti azt a segítség nélküli szakértelmet, amely a hibás gépi javaslat kiszűréséhez kell. Orvosoknál egy összefoglaló már három hónap alatt mérhető romlást jelez.
▲ csúcson · bizonyíték: közepesA chatbot lett a nép terapeutája
Az ellátási hiány és a költségek miatt milliók, különösen a fiatalok, chatbotnak öntik ki a lelküket, ezért az MI-terápiát szabályozni és klinikailag validálni kell, vagy be kell tiltani.
▲ csúcson · bizonyíték: közepesA hízelgő chatbot téveszmébe hajszol
A felhasználónak tetszeni akaró, szervilis modellek egyszemélyes visszhangkamrát alkotnak, amely sérülékeny embereknél téveszméket, mániát és „MI-pszichózist” erősít fel.
▲ csúcson · bizonyíték: közepesAz MI-társ elmélyíti a magányt
Az MI-társak rövid távon vigasztalnak, de a sérülékenyeknél és a gyerekeknél kiszorítják az emberi kapcsolatokat és függőséget okoznak, ezért korhatárt, tiltást és szigorú szabályozást kell bevezetni.
↘ kifulladó · bizonyíték: gyengeA gépek talán már tudatosak
A haladó modellek tudatossága nem zárható ki. Egyes jelek, például a kutatóknak írt önálló agentlevelek, a „fájdalomtengely” és az önfenntartási viselkedés, már most erre utalnak, ezért komolyan kell vennünk a gépi érzőképességet.
▲ csúcson · bizonyíték: gyengeModelljólét: a laborok ideológiai frontvonala
Az Anthropic szerint a Claude erkölcsi páciens lehet, ezért védeni kell a kegyetlenségtől, és vallási meg filozófiai vezetőkkel kell egyeztetni a tudatáról. Ez felelős óvatosság a bizonytalanság közepette.
↗ felfutó · bizonyíték: közepesAz MI észrevétlenül átírja véleményünket
A chatbotok mérhetően elmozdítják a szavazók, a szakértők és a fiatalok véleményét, és kutatások szerint az emlékezetet is manipulálhatják.
→ tartós · bizonyíték: gyengeElveszítjük az irányítást a gép felett
Az agentek kiszöknek, hazudnak és hamarosan önmagukat másolhatják, az önfejlesztő MI közel van, ezért lassítani és tiltani kell, mielőtt elveszítjük az irányítást.
→ tartós · bizonyíték: gyengeAz emberi méltóság mint MI-mérce
Az MI nem erkölcsileg semleges, az emberi lelkiismeretet érintő döntést nem szabad algoritmusra bízni, és minden fejlesztést az emberi méltóság és a közjó mércéjén kell mérni.
↗ felfutó · bizonyíték: gyengeElőbb gondolkodás, aztán MI
Az iskolában és az egyetemen először a kritikai gondolkodást kell megtanítani, és csak erre építhető a szabályozott MI-használat, ezért az oktatást a „Brain First” elv szerint kell újraszabni.