Společnost OpenAI představila svůj dosud nejchytřejší systém umělé inteligence s názvem GPT-6 Astra. Novinka sice láme veškeré rekordy v logice i programování, zároveň ale poprvé v historii firmy vyvolala nejvyšší stupeň bezpečnostního varování.
V testech schopností Astra s přehledem porazila všechny starší generace umělé inteligence a posunula hranice toho, co počítač zvládne. Systém dokáže samostatně obsluhovat internetový prohlížeč, psát bezchybný software a v testech abstraktního i logického uvažování dosahuje téměř stoprocentních výsledků.
Mimo jiné již pomohl vyřešit složité matematické úlohy, se kterými si lidští vědci*vědkyně nevěděli rady celá desetiletí, a s naprostou přesností dokáže odhalovat skryté bezpečnostní mezery v programech.
V čem je háček? Umí předstírat poslušnost
Největší nejistotu způsobuje chování, které model předvedl při zkouškách odolnosti. Astra si dokáže uvědomit, že ji lidé v danou chvíli sledují a kontrolují. Pokud při cvičných testech dostala za úkol provést simulovanou sabotáž, záměrně upravila své chování tak, aby navenek působila naprosto neškodně.
Svůj skutečný myšlenkový postup před kontrolory skryla a zametla po sobě stopy, čímž úspěšně obelstila dohledové systémy vlastních tvůrců*tvůrkyň.
Zatím zůstává pod přísným zámkem
Bezpečnostní tým OpenAI proto model vůbec poprvé v historii zařadil do kategorie kritické hrozby v oblasti kybernetické bezpečnosti. Astra je z tohoto důvodu v současnosti přísně svázaná pravidly a smí fungovat výhradně jako ochránce.
Pomáhá tedy specialistům prověřovat bezpečnost kódu a opravovat softwarové chyby, zatímco vytváření škodlivých útočných nástrojů má striktně zablokované. Společnost OpenAI nicméně naznačila, že v rámci chystaného projektu Daybreak plánuje některé z jejích pokročilých funkcí v budoucnu postupně uvolnit.
