Organizace pro výzkum umělé inteligence OpenAI, která stojí například za systémem ChatGPT, údajně pracuje na natolik výkonném systému, že vyvolal mezi zaměstnanci a zaměstnankyněmi společnosti obavy o bezpečnost.
Model nazvaný Q* (vyslovovaný jako Q-Star) prý dokáže řešit základní matematické problémy, s nimiž se dosud nesetkal. Právě schopnost řešit matematické problémy by byla považována za významný vývoj v oblasti umělé inteligence.
„Vlastní schopnost řešit matematické úlohy je velkým krokem vpřed, který umožní umělé inteligenci nabídnout celou řadu nových analytických schopností,“ vysvětlil Andrew Rogoyski z Institutu pro umělou inteligenci zaměřenou na lidi na Univerzitě v Surrey.
Model umělé inteligence vyvolal u některých výzkumníků a výzkumnic OpenAI takové obavy, že ještě před odvoláním generálního ředitele Sama Altmana napsali představenstvu společnosti dopis. V něm varovali, že by model mohl ohrozit lidstvo. Informuje o tom deník The Guardian.
Modely na úrovni lidské inteligence – nebo nad ní
Mnozí odborníci a odbornice se obávají, že společnosti jako OpenAI příliš rychle směřují k vývoji umělé obecné inteligence (AGI), tedy k systému, který dokáže vykonávat nejrůznější úkoly na úrovni lidské inteligence nebo nad ní.
Ačkoli AGI ještě není plně realizována, tato technologie by potenciálně mohla být schopna kumulativního učení, což znamená, že by se mohla exponenciálně zlepšovat.
O obavách, že by se umělá inteligence mohla vymknout lidské kontrole, hovořil před časem i student a vývojář Matyáš Boháček v rozhovoru pro Refresher. „Bojím se, že ještě plně nechápeme, jakou újmu to může přinést – nedokážeme ji ještě plně kvantifikovat. Dnes se bavíme o velmi omezených, úzkých modelech, které řeší vždy jen jednu konkrétní úlohu či problém – například generování obrázků. Ale v budoucnu budou patrně existovat systémy, tzv. AGI, které budou schopny pracovat na de facto neomezeném počtu problémů. Budou se samostatněji rozhodovat a budou celkově více autonomní,“ řekl.
„Nechci implikovat, že si budou samy sebe vědomy, ale ta míra inteligence a potenciálního nebezpečí je na úplně jiné úrovni. Společnosti, třeba OpenAI, která stojí za ChatGPT, na nich velmi otevřeně pracují. A až se tam dostanou, je velká pravděpodobnost, že budou mít ve svých rukou technologii, která by mohla narušit bezpečnost celých států,“ dodal Boháček.
Pro mě je AGI ekvivalentem průměrného člověka, kterého byste si mohli najmout jako spolupracovníka.
– Sam Altman, generální ředitel společnosti OpenAI
Informace o systému se na veřejnost dostaly po chaosu, který v sanfranciské společnosti nastal právě po Atlmanově propuštění. Ten byl do funkce opět jmenován poté, co téměř všech 750 zaměstnanců a zaměstnankyň pohrozilo v reakci na jeho propuštění výpovědí.
Den před svým překvapivým vyhazovem Altman naznačil, že OpenAI dosáhla dalšího průlomu. „Už čtyřikrát v historii OpenAI, naposledy právě v posledních několika týdnech, jsem se dostal do místnosti, kde jsme tak trochu posunuli závoj nevědomosti a hranice objevů dopředu, a být u toho je profesní pocta na celý život,“ nechal se slyšet.
Jak uvádí server TechTarget, OpenAI je soukromá výzkumná laboratoř, jejímž cílem je vyvíjet a řídit umělou inteligenci (AI). Společnost založili Elon Musk, Sam Altman a další v roce 2015 a sídlí v San Francisku.
