Počítačový vědec Googlu, označovaný za „kmotra“ umělé inteligence, odešel ze společnosti a prohlásil, že tak učinil proto, aby varoval svět před nebezpečím, které tato technologie představuje v době, kdy se velké technologické firmy zapojují do závodů ve zbrojení umělou inteligencí. (Foto: Flickr)

Geoffrey Hinton v pondělí reagoval na článek v New York Times, který naznačoval, že odešel z Googlu, aby společnost kritizoval, a uvedl, že skutečným důvodem bylo, že chtěl ve skutečnosti svobodně hovořit o nebezpečích AI.

Cade Metz dnes v NYT naznačuje, že jsem odešel ze společnosti Google, abych ji mohl kritizovat. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečích umělé inteligence bez ohledu na to, jaký to má dopad na společnost Google. Google se zachoval velmi zodpovědně.

Geoffrey Hinton
„Kmotr umělé inteligence“ odchází ze společnosti Google a varuje svět

Z rozhovoru v Timesech:

Stále věřil, že systémy jsou v některých ohledech horší než lidský mozek, ale v jiných podle něj zastínily lidskou inteligenci. „Možná, že to, co se děje v těchto systémech,“ řekl, „je ve skutečnosti mnohem lepší než to, co se děje v mozku.“

Jak společnosti zdokonalují své systémy umělé inteligence, stávají se podle něj stále nebezpečnějšími. „Podívejte se, jak to bylo před pěti lety a jak je to nyní,“ řekl o technologii AI. „Vezměte ten rozdíl a propagujte ho dopředu. To je děsivé.“

Vzniká zákon, jehož cílem je zabránit umělé inteligenci v odpalování jaderných zbraní

Až do loňského roku se podle něj Google choval jako „řádný správce“ této technologie a dával pozor, aby nevypustil něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft rozšířil svůj vyhledávač Bing o chatbota – což je výzva pro hlavní činnost Googlu -, se Google předhání v nasazení stejného druhu technologie. Podle doktora Hintona se tito technologičtí giganti utkali v soutěži, kterou možná nebude možné zastavit.

Hinton dodal, že se obává, že v nejbližší době bude internet rychle zaplaven falešnými videi, fotografiemi a zprávami a brzy už nikdo „nebude schopen poznat, co je pravda“.

Joe Rogan vydává varování, objevil se jeho podcast vytvořen umělou inteligencí

Dodal, že v dlouhodobém horizontu se obává, že umělá inteligence nakonec zastíní lidskou inteligenci.

„Myšlenka, že by tato věc mohla být skutečně chytřejší než lidé – pár lidí tomu věřilo,“ řekl a dodal: „Ale většina lidí si myslela, že je to daleko. A já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to za 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.“

Nyní předpovídám 5 až 20 let, ale bez velké důvěry. Žijeme ve velmi nejisté době. Je možné, že se zcela mýlím, pokud jde o to, že nás digitální inteligence předběhne. To nikdo pořádně neví, což je důvod, proč bychom si měli dělat starosti už teď.

Geoffrey Hinton
Vědec ze Silicon Valley říká, že lidé by měli „do konce roku“ nahrát své vědomí do počítačů

Hinton také řekl BBC, že jedním z hlavních nebezpečí umělé inteligence je, že se ji „špatní aktéři“ pokusí využít ke „špatným věcem“.

Současný generální ředitel společnosti Google Sundar Pichai připustil, že konkurenční ChatGPT společnosti Bard vyvinula „vyvstávací vlastnosti“, což znamená, že se učí věci, které nebyly naprogramovány, a že chování UI „plně nerozumí“.

WEF vás plánuje „zotročit prostřednictvím umělé inteligence“

Minulý měsíc Elon Musk prozradil, že společnost Google již dlouho plánuje vytvoření umělé inteligence Bard a že Musk před tím majitele společnosti opakovaně varoval.

Musk prohlásil, že konečným cílem Googlu je „vytvořit digitální superinteligenci“ nebo to, co popisuje jako „digitálního boha“.

Gates odmítá výzvy k pozastavení vývoje chatbotů s umělou inteligencí

Majitel Twitteru uvedl, že mu spoluzakladatel Googlu Larry Page před lety soukromě řekl, že širší program společnosti směřuje k umělé obecné inteligenci.

Elon Musk říká, že mu spoluzakladatel Googlu Larry Page jednou řekl, že chce vytvořit „digitálního boha“ pomocí umělé inteligence.

Okamžitě to zastavte, varuje expert před umělou inteligencí. Toto prý může nastat

Musk spolu s Larrym Pagem založil společnost OpenAI, která stojí za projektem ChatGPT, ale zjevně se skutečně obává rychlého pokroku v oblasti umělé inteligence a toho, jak by mohl negativně ovlivnit lidstvo.

Musk řekl Tuckerovi Carlsonovi, že je „naprosto“ představitelné, že by umělá inteligence mohla převzít kontrolu a rozhodovat za lidi, což by v konečném důsledku mohlo vést k „civilizačnímu zničení“.

„Nebezpečí, opravdu, AI je možná nebezpečnější než, řekněme, špatně zvládnutá konstrukce letadel nebo údržba výroby nebo špatná výroba automobilů v tom smyslu, že má potenciál, jakkoli chcete tuto pravděpodobnost považovat za malou, ale není triviální,“ varoval Musk.

Zdroj: nytimes.com