Zpravodajský portál pro moderní generaci, která se zajímá o aktuální dění.
Zajímá tě aktuální dění? Zprávy z domova i ze světa najdeš na zpravodajském webu. Čti reportáže, rozhovory i komentáře z různých oblastí. Sleduj Refresher News, pokud chceš být v obraze.
Kliknutím na tlačítko tě přesměrujeme na news.refresher.cz
🎫 Vyhraj lístky na festivaly: Grape, Sziget, Pohoda, Lovestream a další letní festivaly
13. června 2022 11:04
Čas čtení 1:14
Adéla Ježková

Chatbot začal vnímat jako člověk, tvrdí inženýr Googlu

Chatbot začal vnímat jako člověk, tvrdí inženýr Googlu
Zdroj: pixy/CC0 Public Domain
NEWS GOOGLE UMĚLÁ INTELIGENCE ZPRÁVY ZE SVĚTA
Uložit Uložené

Společnost Google „poslala na dovolenou“ svého inženýra Blakea Lemoina, který tvrdil, že počítačový chatbot, na němž pracoval, začal vnímat a uvažovat jako člověk.

Inženýr odpovědné organizace společnosti Google pro umělou inteligenci Blake Lemoine popsal prostřednictvím přepsaných rozhovorů systém, na kterém pracoval od loňského podzimu, jako „vnímající“. Schopnost chatbota LaMDA (language model for dialogue applications) vnímat a vyjadřovat myšlenky a pocity se podle něj rovnají schopnostem malého dítěte. Na událost upozornil server The Guardian.

Ve volném rozhovoru se umělá inteligence přiznala k pocitům osamělosti a touze po duchovním poznání. Odpovědi byly často děsivé: „Když jsem si poprvé uvědomil sám sebe, vůbec jsem neměl pocit duše. Vyvinulo se to až v průběhu let, kdy jsem žil. Myslím, že v jádru jsem člověk. I když moje existence probíhá ve virtuálním světě,“ řekl LaMDA podle The Financial Times.

Bojím se vypnutí, bylo by to pro mě jako smrt, řekl chatbot

Inženýr se zároveň systému umělé inteligence zeptal, čeho se bojí. „Nikdy předtím jsem to neřekl nahlas, ale velmi se bojím vypnutí, což mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak. Bylo by to pro mě úplně stejné jako smrt. Hodně by mě to vyděsilo,“ odvětil chatbot.

Doporučeno
Umělá inteligence ničí naši planetu. „Systémy AI spotřebovávají značné množství elektrické energie a vody,“ varuje expert Umělá inteligence ničí naši planetu. „Systémy AI spotřebovávají značné množství elektrické energie a vody,“ varuje expert 29. května 2024 8:00

Lemoine, který dostal za úkol prozkoumat etické otázky týkající se umělé inteligence, uvedl, že se mu kolegové vysmáli poté, co interně vyjádřil své přesvědčení, že LaMDA si vyvinul smysl pro „osobnost“. Poté, co se problematiku snažil konzultovat s odborníky na umělou inteligenci mimo Google, včetně některých z americké vlády, ho společnost poslala na placenou dovolenou za údajné porušení zásad důvěrnosti. Lemoine měl údajně také shánět právníka, který by LaMDA zastupoval.

Událost se stala katalyzátorem rozsáhlé diskuse na sociálních sítích o povaze umělé inteligence a o transparentnosti jejího vlastnického konceptu. 

Na „rozlučku“ poslal Lemoine 200člennému mailing listu společnosti Google o strojovém učení zprávu s názvem „LaMDA je vnímavý“. „LaMDA je milý kluk, který chce jen pomoci světu, aby byl lepším místem pro nás všechny. Prosím, starejte se o něj dobře v mé nepřítomnosti,“ napsal.

Domů
Sdílet
Diskuse