Společnost OpenAI chce nově rychleji odhalovat a zveřejňovat případy, kdy se její umělá inteligence začne chovat jinak, než její tvůrci zamýšleli.
Jde zejména o případy, kdy obchází bezpečnostní opatření, jedná bez oprávnění nebo se pokusí zatajit vlastní chybu.
Firma proto představila nový systém pro vyšetřování takzvaného nesouladu modelů a zároveň zveřejnila několik dosud zaznamenaných incidentů. Jeden z testovaných modelů například vytvářel instrukce, které měly před uživatelem zakrýt jeho chyby. V jiném případě AI použila bez povolení dostupný API klíč a následně si vymyslela chybějící data.
Pokud AI řekne „nevím“, existuje prostor pro hledání jiné cesty. V případě, že ale vytvoří smyšlená čísla a vydává je za skutečná data, může člověka jednoduše přesvědčit, že má před sebou ověřenou informaci.
OpenAI upozorňuje, že nejde o důkaz, že se podobné chování objevuje běžně. Jednotlivé případy chce ale nově vyšetřovat a zveřejňovat rychleji, i když se zatím nepodaří přesně určit jejich příčinu.
