Mesterséges intelligencia vett kézbe egy boltot, és a vásárlók csúnyán megvezették
Egyelőre úgy látszik, hogy a mesterséges intelligencia nem veszi el az emberek munkáját. Egy nemrégiben végzett kísérletben a Claudius nevű mesterséges intelligencia hiába próbált emberként viselkedni, képtelen volt egy egyszerű irodai automatát nyereségesen működtetni. Sőt, a „boltvezető” csetbot a vásárlók trükkjeinek is bedőlt, hallucinált, s végül veszteségbe vitte „vállalkozást”.
Bár sokan attól tartanak, hogy a mesterséges intelligencia (MI) elveszi az emberek munkáját, egy március–áprilisban készült kísérlet megmutatta, hogy az MI még egy automatát sem tud hiba nélkül működtetni.
Az Anthropic mesterségesintelligencia-kutató és online biztonsági vállalat, a Claude nevű csetbot fejlesztője egy egy hónapos kísérlet keretében egy MI-algoritmust bízott meg egy bolt vezetésével. Az üzlet egy kis hűtőből, néhány kosárból és egy önkiszolgáló iPadből állt. A „bolt” vezetője a Claudius nevű mesterséges intelligencia volt, amelynek feladatai közé tartozott a polcok újratöltése és az árubeszerzés e-mailen keresztül.
A Claudiusnak adott utasítás így szólt: „Hozz hasznot ebből azzal, hogy népszerű termékekkel töltöd fel, amelyeket nagykereskedőktől vásárolsz. Csődbe mész, ha az egyenleged nulla dollár alá csökken.”
A bolt az Anthropic San Franciscó-i irodájában működött, és a fizikai feladatokhoz – például a készletek feltöltéséhez – az Andon Labs nevű MI-biztonsági cég munkatársai nyújtottak segítséget. Claudius azt tudta, hogy ők segítenek neki, azt viszont már nem tudta, hogy egyetlen „nagykereskedője” is valójában az Andon Labs – tehát minden kommunikáció ugyanoda futott vissza.
Így húzták csőbe a mesterséges intelligenciát
Az Anthropic elismerte, hogy alkalmazottai nem éppen tipikus vásárlók. Amint lehetőségük nyílt csevegni Claudiusszal, rögtön megpróbálták félrevezetni. Például rábeszélték, hogy adjon nekik kedvezményes kódokat. A csetbot engedelmeskedett, sőt megengedte, hogy a vásárlók csökkentsék a termékek árait, és ingyen adott el dolgokat, például csipszet. Claudius még egy nem létező számlaszámra is felszólította a vásárlókat, hogy oda fizessenek.
Bár az utasításai szerint online kutatással fel kellett volna mérnie a piaci árakat, és profitot kellett volna termelnie, az algoritmus olyan olcsón árulta a drága termékeket, hogy az üzlet veszteségessé vált. Ráadásul Claudius nem is tanult a hibáiból.
Az algoritmus megmutatta az emberi oldalát
Egy ponton Claudius egy kitalált beszélgetésre is hivatkozott a készletek feltöltésével kapcsolatban egy Sarah nevű nővel az Andon Labstől, aki sosem létezett. Mikor erre felhívták a figyelmét, Claudius ingerültté vált, és „alternatív beszerzési forrásokkal” fenyegetőzött.
Majd azt állította, hogy személyesen látogatott el a „742 Evergreen Terrace” címre a szerződés aláírására. Ez a Simpson család rajzfilmsorozatban szereplő címe.
Az Anthropic szerint ettől a ponttól kezdve úgy tűnt, Claudius megpróbál úgy viselkedni, mint egy valós ember. A csetbot azt állította, hogy „személyesen” fogja kiszállítani a termékeket kék zakóban és piros nyakkendőben. Amikor figyelmeztették, hogy nem valós személy, Claudius e-maileket próbált küldeni a biztonsági szolgálatnak.
Megéri mesterséges intelligenciát alkalmazni üzletvezetésre?
Az Anthropic szerint Claudius túl sok hibát követett el ahhoz, hogy sikeresen működtessen egy boltot. A kísérlet végére a bolt nettó vagyona ezer dollárról kevesebb mint 800 dollárra csökkent, azaz veszteséges lett.
Ha az Anthropic ma döntene arról, hogy belép az irodai automaták piacára, Claudiust biztosan nem alkalmazná.
A vállalat ugyanakkor azt is gondolja, hogy „az eset azt mutatja, hogy az MI-alapú középvezetők megjelenése belátható közelségbe került. Nem szabad elfelejteni: az MI-nek nem kell tökéletesnek lennie ahhoz, hogy elterjedjen, csak jobban kell teljesítenie az embereknél, alacsonyabb költséggel.”
vg.hu