Több amerikai állam főügyészéből álló csoport indított átfogó vizsgálatot az OpenAI működésével kapcsolatban. A hatósági érdeklődés nem egyetlen technikai problémára vagy elszigetelt felhasználói panaszra irányul, hanem a vállalat üzleti modelljének, adatkezelésének és fogyasztókkal kapcsolatos gyakorlatának több elemét is érinti.
A vizsgálatot a beszámolók szerint New York állam főügyészi hivatala vezeti. A hatóságok dokumentumokat és belső információkat kértek az OpenAI-tól, hogy pontosabb képet kapjanak arról, miként működik a ChatGPT mögött álló vállalat, hogyan tartja kapcsolatban felhasználóit a szolgáltatással, és milyen elvek alapján kezeli a rendszer használata során keletkező adatokat.
Fontos hangsúlyozni, hogy a vizsgálat megindítása önmagában nem jelenti jogsértés megállapítását. A hatóságok jelenleg információkat gyűjtenek, és azt próbálják tisztázni, hogy szükség van-e további intézkedésre.
A vizsgálat több üzleti területre is kiterjed
A hatósági megkeresés különösen széles témakört ölel fel. Az amerikai főügyészek többek között az OpenAI reklámtevékenységével, felhasználómegtartási módszereivel, adatkezelésével és belső szabályaival kapcsolatban kértek dokumentumokat.
A vizsgálat érintheti:
- a reklámok megjelenítésének és célzásának módját;
- a felhasználói aktivitás növelésére alkalmazott megoldásokat;
- a szolgáltatás rendszeres használatára ösztönző funkciókat;
- a fogyasztói adatok gyűjtését és feldolgozását;
- az egészséggel kapcsolatos beszélgetések során keletkező információkat;
- a gyermekek és fiatalkorúak védelmére szolgáló intézkedéseket;
- az idősebb felhasználókat érintő kockázatokat;
- az alkalmazott mesterségesintelligencia-modellek működését;
- a vállalat belső biztonsági és ellenőrzési szabályait.
A megkeresés terjedelme arra utal, hogy a hatóságok nem csupán egyes válaszok tartalmát vizsgálják. Arra is kíváncsiak, hogyan tervezték meg a szolgáltatást, milyen üzleti ösztönzők befolyásolják annak működését, és milyen védelem áll rendelkezésre a sérülékenyebb felhasználói csoportok számára.
A felhasználómegtartás külön vizsgálati területté vált
A digitális szolgáltatások piacán általános üzleti cél, hogy a felhasználók minél gyakrabban és hosszabb ideig használják az adott platformot.
Egy mesterséges intelligenciával működő chatbot esetében azonban a felhasználómegtartás különleges kérdéseket vet fel. A rendszer nem pusztán tartalmakat jelenít meg, hanem beszélgetést folytat, személyre szabott válaszokat ad, emlékezhet korábbi információkra, és bizonyos felhasználók érzelmileg is kötődhetnek hozzá.
A hatóságok ezért azt vizsgálhatják, hogy az OpenAI milyen módszerekkel ösztönzi a visszatérő használatot, és megfelelően kezeli-e azokat a helyzeteket, amelyekben a felhasználó túlzottan függővé válhat a szolgáltatástól.
Különösen érzékeny lehet a kérdés akkor, ha a chatbotot magányos, mentális nehézségekkel küzdő, kiskorú vagy idős személy használja.
A hagyományos közösségi médiában már hosszabb ideje vita zajlik az értesítések, végtelen hírfolyamok és jutalmazó algoritmusok függőséget erősítő hatásáról. A generatív AI esetében ehhez egy új elem társul: a rendszer úgy kommunikálhat, mintha megértené a felhasználót, miközben valójában egy statisztikai modell állítja elő a válaszokat.
Az egészségügyi adatok kezelése komoly kockázatokat hordozhat
Sokan egészségi állapotukkal, gyógyszereikkel, lelki problémáikkal vagy családi helyzetükkel kapcsolatban is kérdeznek mesterségesintelligencia-rendszereket.
Ezek a beszélgetések rendkívül érzékeny információkat tartalmazhatnak. A felhasználók gyakran olyan adatokat is megosztanak, amelyeket egy hagyományos weboldalon vagy keresőmotorban nem adnának meg.
A vizsgálat egyik lényeges kérdése lehet, hogy:
- milyen adatokat őriz meg a rendszer;
- meddig tárolják a beszélgetéseket;
- felhasználják-e azokat a modellek fejlesztésére;
- hozzáférhetnek-e az adatokhoz külső szolgáltatók;
- hogyan kérhető az információk törlése;
- megfelelően tájékoztatják-e a felhasználókat;
- elkülönítetten kezelik-e az egészségügyi tartalmakat;
- felhasználhatók-e bizonyos adatok reklámcélokra.
Az egészségügyi jellegű beszélgetések azért is különösen kockázatosak, mert a chatbot nem feltétlenül tudja pontosan megállapítani, mikor van szükség sürgős orvosi vagy pszichológiai segítségre.
A felhasználó ugyanakkor a válasz hangneme és részletessége miatt könnyen szakértői tanácsként értelmezheti a rendszer által előállított szöveget.
A reklámok új fejezetet nyithatnak az AI-szolgáltatásoknál
A hatóságok az OpenAI reklámtevékenységéről és reklámstratégiájáról is dokumentumokat kértek.
A reklámok megjelenése a generatív mesterséges intelligenciában új fogyasztóvédelmi kérdéseket teremthet. Egy hagyományos keresőben vagy közösségi oldalon a fizetett tartalom általában külön jelölést kap. Egy beszélgető rendszerben azonban sokkal nehezebb lehet elkülöníteni a független válaszokat a kereskedelmi szempontból befolyásolt ajánlásoktól.
Különösen fontos lehet annak tisztázása, hogy:
- a felhasználó egyértelműen felismeri-e a reklámot;
- a fizetett ajánlás elkülönül-e a modell saját válaszától;
- a beszélgetések tartalmát felhasználják-e reklámcélzásra;
- a személyes problémák alapján jelenhetnek-e meg ajánlatok;
- gyermekeknek és időseknek milyen hirdetések mutathatók;
- a reklámozó befolyásolhatja-e a chatbot válaszának tartalmát.
A chatbot különleges bizalmi helyzetet alakíthat ki. Ha a rendszer egy beszélgetés közepén ajánl terméket vagy szolgáltatást, a felhasználó azt könnyebben tekintheti személyre szabott tanácsnak, mint hagyományos reklámnak.
A gyermekek védelme egyre fontosabb szabályozási terület
A gyermekek és fiatalkorúak mesterségesintelligencia-használata már korábban is komoly vitákat váltott ki az Egyesült Államokban és más országokban.
A kockázatok között megjelenhet:
- a nem megfelelő életkorú tartalom;
- a veszélyes vagy önkárosító tanács;
- a túlzott használat;
- az érzelmi függőség;
- a személyes adatok könnyelmű megosztása;
- a felnőttként viselkedő chatbotba vetett túlzott bizalom;
- a tanulási és házi feladatok ellenőrizetlen automatizálása;
- a gyermek életkorának pontatlan felismerése.
A hatósági vizsgálat várhatóan azt is áttekinti, hogy az OpenAI milyen életkor-ellenőrzési, szülői felügyeleti és tartalombiztonsági rendszereket alkalmaz.
Nem elegendő ugyanis általánosan kijelenteni, hogy egy szolgáltatás bizonyos életkor alatt nem használható. A hatóságok azt is vizsgálhatják, hogy a korlátozás technikailag és ténylegesen mennyire érvényesül.
Az idősebb felhasználók különösen sérülékenyek lehetnek
A vizsgálat az idősebb emberekkel kapcsolatos gyakorlatokra is kiterjed.
Ez a csoport fokozottan veszélyeztetett lehet az online csalások, félrevezető egészségügyi tanácsok és manipulatív pénzügyi ajánlatok szempontjából.
Egy AI-chatbot tekintélyt sugárzó, határozott válaszai akkor is meggyőzőek lehetnek, ha téves vagy hiányos információt tartalmaznak.
Az idősebb felhasználók védelmében ezért különösen fontos lehet:
- az egyértelmű figyelmeztetés;
- a veszélyes pénzügyi és egészségügyi tanácsok korlátozása;
- a csalásgyanús helyzetek felismerése;
- a valós személyhez vagy szakemberhez irányítás;
- a reklám és a független válasz elkülönítése;
- a könnyen érthető adatkezelési tájékoztatás.
A vizsgálat az AI-iparág egészére hatással lehet
Az amerikai főügyészek eljárása közvetlenül az OpenAI-t érinti, de annak eredménye más AI-szolgáltatók számára is iránymutató lehet.
Amennyiben a hatóságok részletesebb fogyasztóvédelmi, adatkezelési vagy gyermekvédelmi követelményeket fogalmaznak meg, azok idővel általános iparági elvárássá válhatnak.
A fejlesztőknek például szigorúbban dokumentálniuk kellhet:
- a modell működését és korlátait;
- az adatkezelési folyamatokat;
- a biztonsági teszteket;
- a sérülékeny felhasználók védelmét;
- a reklámok elhelyezését;
- a veszélyes válaszok kezelését;
- a panaszok és incidensek kivizsgálását.
A mesterséges intelligencia eddig gyakran kísérleti technológiaként jelent meg. A felhasználók százmilliós nagyságrendje mellett azonban a hatóságok egyre inkább alapvető digitális szolgáltatásként kezelhetik.
Az európai vállalkozások számára is fontos a vizsgálat
A vizsgálat ugyan az Egyesült Államokban zajlik, de az OpenAI szolgáltatásait világszerte használják vállalkozások.
Magyar cégek is alkalmazhatják a ChatGPT-t:
- ügyfélszolgálati feladatokra;
- marketinganyagok készítésére;
- dokumentumok elemzésére;
- programozási feladatokra;
- belső tudásbázisokban;
- ajánlatok és levelek megfogalmazására;
- üzleti adatok feldolgozására.
A vállalkozásnak ettől függetlenül saját felelőssége is van. Ellenőriznie kell, milyen adatokat továbbít a rendszernek, rendelkezik-e megfelelő jogalappal, és kerülnek-e személyes vagy üzleti titkok külső szolgáltatóhoz.
Különösen kockázatos lehet egészségügyi, pénzügyi, munkavállalói vagy ügyféladatok kontroll nélküli feltöltése.
A hatósági vizsgálat még nem jelent elmarasztalást
A jelenlegi eljárási szakaszban a főügyészek információkat és dokumentumokat gyűjtenek.
A vizsgálat többféle eredménnyel zárulhat:
- további intézkedés nélkül lezárhatják;
- önkéntes vállalásokat kérhetnek az OpenAI-tól;
- egyezség születhet;
- új fogyasztóvédelmi követelményeket írhatnak elő;
- pénzügyi szankciót kezdeményezhetnek;
- külön bírósági eljárás indulhat.
Az OpenAI közlése szerint felelősségteljesen kívánja fejleszteni mesterségesintelligencia-rendszereit, és együttműködik a hatóságokkal.
A következő időszak meghatározó kérdése az lesz, hogy az AI-cégek milyen mértékben kezelhetők egyszerű technológiai szolgáltatóként, és mikortól terheli őket fokozott felelősség a felhasználók viselkedéséért, adatainak védelméért és a rendszer által adott válaszok következményeiért.