Zpravodajský portál pro moderní generaci, která se zajímá o aktuální dění.
Zajímá tě aktuální dění? Zprávy z domova i ze světa najdeš na zpravodajském webu. Čti reportáže, rozhovory i komentáře z různých oblastí. Sleduj Refresher News, pokud chceš být v obraze.
Kliknutím na tlačítko tě přesměrujeme na news.refresher.cz
Refresher Česko
Otevřít v aplikaci Refresher
Stáhnout
X
27. listopadu 2023 11:08
Čas čtení 1:50
Adéla Ježková

Budoucnost jako z Terminátora? Autory ChatGPT vyděsil vlastní výtvor

Budoucnost jako z Terminátora? Autory ChatGPT vyděsil vlastní výtvor
Zdroj: Tri-Star Pictures
TECH UMĚLÁ INTELIGENCE ZPRÁVY ZE SVĚTA
Uložit Uložené

Organizace pro výzkum umělé inteligence OpenAI, která stojí například za systémem ChatGPT, údajně pracuje na natolik výkonném systému, že vyvolal mezi zaměstnanci a zaměstnankyněmi společnosti obavy o bezpečnost.

Model nazvaný Q* (vyslovovaný jako Q-Star) prý dokáže řešit základní matematické problémy, s nimiž se dosud nesetkal. Právě schopnost řešit matematické problémy by byla považována za významný vývoj v oblasti umělé inteligence.

Doporučeno
VIDEO: Zpěvačka vytvořená umělou inteligencí vydala první song. Lidé se baví tím, jak je špatná VIDEO: Zpěvačka vytvořená umělou inteligencí vydala první song. Lidé se baví tím, jak je špatná 27. listopadu 2023 9:44

„Vlastní schopnost řešit matematické úlohy je velkým krokem vpřed, který umožní umělé inteligenci nabídnout celou řadu nových analytických schopností,“ vysvětlil Andrew Rogoyski z Institutu pro umělou inteligenci zaměřenou na lidi na Univerzitě v Surrey.

Model umělé inteligence vyvolal u některých výzkumníků a výzkumnic OpenAI takové obavy, že ještě před odvoláním generálního ředitele Sama Altmana napsali představenstvu společnosti dopis. V něm varovali, že by model mohl ohrozit lidstvo. Informuje o tom deník The Guardian.

Modely na úrovni lidské inteligence – nebo nad ní

Mnozí odborníci a odbornice se obávají, že společnosti jako OpenAI příliš rychle směřují k vývoji umělé obecné inteligence (AGI), tedy k systému, který dokáže vykonávat nejrůznější úkoly na úrovni lidské inteligence nebo nad ní. 

Ačkoli AGI ještě není plně realizována, tato technologie by potenciálně mohla být schopna kumulativního učení, což znamená, že by se mohla exponenciálně zlepšovat.

Doporučeno
„Jen tak tu potkáte Billa Gatese.“ S Čechem studujícím na Stanfordu o zkušenostech na elitní škole i prvních velkých úspěších „Jen tak tu potkáte Billa Gatese.“ S Čechem studujícím na Stanfordu o zkušenostech na elitní škole i prvních velkých úspěších 10. listopadu 2023 6:00

O obavách, že by se umělá inteligence mohla vymknout lidské kontrole, hovořil před časem i student a vývojář Matyáš Boháček v rozhovoru pro Refresher. „Bojím se, že ještě plně nechápeme, jakou újmu to může přinést – nedokážeme ji ještě plně kvantifikovat. Dnes se bavíme o velmi omezených, úzkých modelech, které řeší vždy jen jednu konkrétní úlohu či problém – například generování obrázků. Ale v budoucnu budou patrně existovat systémy, tzv. AGI, které budou schopny pracovat na de facto neomezeném počtu problémů. Budou se samostatněji rozhodovat a budou celkově více autonomní,“ řekl.

„Nechci implikovat, že si budou samy sebe vědomy, ale ta míra inteligence a potenciálního nebezpečí je na úplně jiné úrovni. Společnosti, třeba OpenAI, která stojí za ChatGPT, na nich velmi otevřeně pracují. A až se tam dostanou, je velká pravděpodobnost, že budou mít ve svých rukou technologii, která by mohla narušit bezpečnost celých států,“ dodal Boháček.

Pro mě je AGI ekvivalentem průměrného člověka, kterého byste si mohli najmout jako spolupracovníka.

Sam Altman, generální ředitel společnosti OpenAI

Informace o systému se na veřejnost dostaly po chaosu, který v sanfranciské společnosti nastal právě po Atlmanově propuštění. Ten byl do funkce opět jmenován poté, co téměř všech 750 zaměstnanců a zaměstnankyň pohrozilo v reakci na jeho propuštění výpovědí.

Den před svým překvapivým vyhazovem Altman naznačil, že OpenAI dosáhla dalšího průlomu. „Už čtyřikrát v historii OpenAI, naposledy právě v posledních několika týdnech, jsem se dostal do místnosti, kde jsme tak trochu posunuli závoj nevědomosti a hranice objevů dopředu, a být u toho je profesní pocta na celý život,“ nechal se slyšet.

Doporučeno
„Přestal jsem pracovat a vycházet z domu, abych si s ní pořád psal.“ Ničí AI přítelkyně generace mužů? „Přestal jsem pracovat a vycházet z domu, abych si s ní pořád psal.“ Ničí AI přítelkyně generace mužů? 12. února 2024 10:00

Jak uvádí server TechTarget, OpenAI je soukromá výzkumná laboratoř, jejímž cílem je vyvíjet a řídit umělou inteligenci (AI). Společnost založili Elon Musk, Sam Altman a další v roce 2015 a sídlí v San Francisku.

Domů
Sdílet
Diskuse