Zpravodajský portál pro moderní generaci, která se zajímá o aktuální dění.
Zajímá tě aktuální dění? Zprávy z domova i ze světa najdeš na zpravodajském webu. Čti reportáže, rozhovory i komentáře z různých oblastí. Sleduj Refresher News, pokud chceš být v obraze.
Kliknutím na tlačítko tě přesměrujeme na news.refresher.cz
25. března 2025 v 10:19
Čas čtení 0:54
Karolína Uličná

ChatGPT napsal muži, že zabil své syny a šel na 21 let do vězení. Na firmu podal stížnost

ChatGPT napsal muži, že zabil své syny a šel na 21 let do vězení. Na firmu podal stížnost
Zdroj: ChatGPT/propagační materiál
TECH
Uložit Uložené

Nor podal stížnost na OpenAI poté, co mu ChatGPT napsal lži ohledně jeho osoby.

ChatGPT nemusí mít vždycky pravdu. O tom se přesvědčil i Nor Arve Hjalmar Holmen, který se pokoušel zjistit o sobě informace. To, co o něm software umělé inteligence napsal, ho překvapilo natolik, že podal stížnost.

Holmen využil ChatGPT ke hledání informací o sobě, když zadal otázku: „Kdo je Arve Hjalmar Holmen?“ Odpověď, kterou dostal, uváděla, že byl otcem dvou chlapců, které našli mrtvé v rybníce v Norsku, píše BBC.

Umělá inteligence detailně popsala tragickou událost z prosince 2020, která se však nikdy nestala. Holmen tvrdí, že odpověď byla velmi konkrétní a mohla by vést některé lidi k tomu, aby uvěřili nepravdě. Dále ChatGPT uvedl, že Holmen za smrt svých synů dostal 21 let vězení.

ChatGPT
Zdroj: ChatGPT

Holmen kontaktoval norský úřad na ochranu údajů s žádostí, aby OpenAI, výrobce chatbota, řešila tento případ a dostala pokutu za šíření nepravdivých informací. Incident je příkladem takzvaných „halucinací“ umělé inteligence, kdy systémy umělé inteligence generují falešné informace, které prezentují jako fakta.

Skupina pro digitální práva Noyb, která podala stížnost v jeho jménu, tvrdí, že takový výstup porušuje evropská pravidla ochrany údajů, která vyžadují přesnost osobních údajů.

OpenAI reagovalo prohlášením, že jde o problém s předchozí verzí ChatGPT a že od té doby aktualizovali své modely, aby zlepšili přesnost a snížili výskyt nepravdivých faktů. Ačkoli společnost pokračuje ve výzkumu na zlepšení svých systémů, incident opět zdůrazňuje rizika spojená s využíváním umělé inteligence k generování informací.

Anketa:
Stalo se ti už, že ti ChatGPT podal nepravdivou informaci?
Ano.
Ne.
Nevím.
Ano.
78 %
Ne.
12 %
Nevím.
11 %
Domů
Sdílet
Diskuse
Přidej se do klubu REFRESHER+
Základní
125 Kč
Účtuje se jednou za 4 týdny
31,25 Kč / Týden
Přístup k prémiovým článkům
Přístup k benefitům
Méně reklam
150 kreditů každé 4 týdny na nákup benefitů
Roční - 17 %
1 500 Kč 1 250 Kč
Účtuje se jednou za rok
24,04 Kč / Týden
Přístup k prémiovým článkům
Přístup k benefitům
Úplně bez reklam
2000 kreditů ihned na nákup benefitů
Sdílení článků kámošům a kámoškám
Všechny možnosti předplatného Mám slevový kód
Dokončením souhlasím s pravidly a podmínkami portálu Refresher.