ChatGPT skrývá vlastní chyby. Společnost OpenAI o problému nyní promluvila
1
1
0
17. září 2026 v 15:15
Čas čtení 0:30
Ella Petrová

ChatGPT skrývá vlastní chyby. Společnost OpenAI o problému nyní promluvila

ChatGPT skrývá vlastní chyby. Společnost OpenAI o problému nyní promluvila
Zdroj: Magnific / DC Studio / volně k užití
Diskutovat
Uložit Uložené

Společnost OpenAI chce nově rychleji odhalovat a zveřejňovat případy, kdy se její umělá inteligence začne chovat jinak, než její tvůrci zamýšleli.

Jde zejména o případy, kdy obchází bezpečnostní opatření, jedná bez oprávnění nebo se pokusí zatajit vlastní chybu.

Firma proto představila nový systém pro vyšetřování takzvaného nesouladu modelů a zároveň zveřejnila několik dosud zaznamenaných incidentů. Jeden z testovaných modelů například vytvářel instrukce, které měly před uživatelem zakrýt jeho chyby. V jiném případě AI použila bez povolení dostupný API klíč a následně si vymyslela chybějící data.

Doporučeno
V MasterChefovi se již neobjeví Punčochář, Kašpárek ani Forejt. Televize chystá změny V MasterChefovi se již neobjeví Punčochář, Kašpárek ani Forejt. Televize chystá změny 17. září 2026 v 10:20

Pokud AI řekne „nevím“, existuje prostor pro hledání jiné cesty. V případě, že ale vytvoří smyšlená čísla a vydává je za skutečná data, může člověka jednoduše přesvědčit, že má před sebou ověřenou informaci.

OpenAI upozorňuje, že nejde o důkaz, že se podobné chování objevuje běžně. Jednotlivé případy chce ale nově vyšetřovat a zveřejňovat rychleji, i když se zatím nepodaří přesně určit jejich příčinu.

Doporučeno
ANKETA: Je GTA VI největší herní událost všech dob? České osobnosti nám řekly, jak se chystají na hraní ANKETA: Je GTA VI největší herní událost všech dob? České osobnosti nám řekly, jak se chystají na hraní 18. listopadu 2026 v 13:00
Doporučeno
Na co všechno může jezdit auto? Na co všechno může jezdit auto? 10. listopadu 2026 v 15:00
Doporučeno
„Dám si emko v klubu a cítím se skvěle.“ Sophia Stel vydala nejlepší hudební album všech dob „Dám si emko v klubu a cítím se skvěle.“ Sophia Stel vydala nejlepší hudební album všech dob 19. listopadu 2026 v 7:00