Nor podal stížnost na OpenAI poté, co mu ChatGPT napsal lži ohledně jeho osoby.
ChatGPT nemusí mít vždycky pravdu. O tom se přesvědčil i Nor Arve Hjalmar Holmen, který se pokoušel zjistit o sobě informace. To, co o něm software umělé inteligence napsal, ho překvapilo natolik, že podal stížnost.
Holmen využil ChatGPT ke hledání informací o sobě, když zadal otázku: „Kdo je Arve Hjalmar Holmen?“ Odpověď, kterou dostal, uváděla, že byl otcem dvou chlapců, které našli mrtvé v rybníce v Norsku, píše BBC.
Umělá inteligence detailně popsala tragickou událost z prosince 2020, která se však nikdy nestala. Holmen tvrdí, že odpověď byla velmi konkrétní a mohla by vést některé lidi k tomu, aby uvěřili nepravdě. Dále ChatGPT uvedl, že Holmen za smrt svých synů dostal 21 let vězení.
Holmen kontaktoval norský úřad na ochranu údajů s žádostí, aby OpenAI, výrobce chatbota, řešila tento případ a dostala pokutu za šíření nepravdivých informací. Incident je příkladem takzvaných „halucinací“ umělé inteligence, kdy systémy umělé inteligence generují falešné informace, které prezentují jako fakta.
Skupina pro digitální práva Noyb, která podala stížnost v jeho jménu, tvrdí, že takový výstup porušuje evropská pravidla ochrany údajů, která vyžadují přesnost osobních údajů.
OpenAI reagovalo prohlášením, že jde o problém s předchozí verzí ChatGPT a že od té doby aktualizovali své modely, aby zlepšili přesnost a snížili výskyt nepravdivých faktů. Ačkoli společnost pokračuje ve výzkumu na zlepšení svých systémů, incident opět zdůrazňuje rizika spojená s využíváním umělé inteligence k generování informací.
