„Kmotr umělé inteligence“ odstoupil ze své pozice ve společnosti Google, kde pracoval více než deset let. (Foto: Flickr)

Připojil se tak k rostoucímu sboru kritiků, kteří varují před existenčním rizikem, jež systémy umělé inteligence představují pro člověka.

V pondělí to na Twitteru napsal počítačový vědec Googlu Geoffrey Hinton:

„V dnešních NYT Cade Metz naznačuje, že jsem odešel z Googlu, abych mohl kritizovat Google. Ve skutečnosti jsem odešel proto, abych mohl mluvit o nebezpečí umělé inteligence, aniž bych uvažoval o tom, jaký to má dopad na Google. Google se zachoval velmi zodpovědně.“

Vzniká zákon, jehož cílem je zabránit umělé inteligenci v odpalování jaderných zbraní

V rozhovoru pro The New York Times Hinton uvedl, že teprve po odchodu ze společnosti Google mohl otevřeně hovořit o nebezpečích AI.

Stále věřil, že systémy jsou v některých ohledech horší než lidský mozek, ale v jiných podle něj zastínily lidskou inteligenci. „Možná, že to, co se děje v těchto systémech,“ řekl, „je ve skutečnosti mnohem lepší než to, co se děje v mozku.“

Jak společnosti zdokonalují své systémy umělé inteligence, stávají se podle něj stále nebezpečnějšími. „Podívejte se, jak to bylo před pěti lety a jak je to teď,“ řekl o technologii AI. „Vezměte ten rozdíl a propagujte ho dopředu. To je děsivé.“

Až do loňského roku se podle něj společnost Google chovala jako „řádný správce“ této technologie a dávala si pozor, aby nevypustila něco, co by mohlo způsobit škodu. Ale nyní, když Microsoft rozšířil svůj vyhledávač Bing o chatbota – což je výzva pro hlavní činnost Googlu -, se Google předhání v nasazení stejného druhu technologie. Podle doktora Hintona se tito technologičtí giganti utkali v soutěži, kterou možná nebude možné zastavit. -NYT

Joe Rogan vydává varování, objevil se jeho podcast vytvořen umělou inteligencí

Jednou z jeho bezprostředních obav je, že internet zaplaví falešná videa, fotografie a zprávy a běžný člověk „už nebude schopen poznat, co je pravda“.

Hinton se obává, že automatizace naruší trh práce. Chatboti, jako je ChatGPT společnosti OpenAI, mohou již nyní nahradit osobní asistenty, překladatele a další osoby, které se zabývají rutinními úkoly.

„Odstraní to těžkou práci,“ řekl a dodal: „Možná to odstraní víc než to.“

Nedávná výzkumná zpráva společnosti Goldman Sachs předpovídá, že umělá inteligence by mohla vést k propuštění přibližně 300 milionů vysoce placených pracovníků, kteří nejsou zaměstnanci, v USA a Evropě. Jak uvedl hlavní ekonom Goldmanu Jan Hatzius:

Vědec ze Silicon Valley říká, že lidé by měli „do konce roku“ nahrát své vědomí do počítačů

„Na základě údajů o pracovních úkolech v USA i v Evropě jsme zjistili, že zhruba dvě třetiny současných pracovních míst jsou vystaveny určitému stupni automatizace AI a že generativní AI by mohla nahradit až čtvrtinu současné práce. Extrapolace našich odhadů v celosvětovém měřítku naznačuje, že generativní umělá inteligence by mohla vystavit automatizaci ekvivalent 300 milionů pracovních míst na plný úvazek“, protože až „dvě třetiny povolání by mohly být částečně automatizovány umělou inteligencí“.

A v pondělí generální ředitel IBM Arvind Krishna uvedl, že AI by mohla v příštích pěti letech nahradit 30 % pracovních míst v back-office.

Vraťme se k Hintonovi, který nadále varoval, že AI nakonec zastíní lidskou inteligenci:

WEF vás plánuje „zotročit prostřednictvím umělé inteligence“

„Myšlenka, že by tato věc mohla být skutečně chytřejší než lidé – tomu věřilo jen pár lidí.

„Ale většina lidí si myslela, že je to daleko od pravdy. A já jsem si myslel, že je to hodně mimo. Myslel jsem si, že je to za 30 až 50 let nebo ještě déle. To už si samozřejmě nemyslím.“

Řekl, že nepodepsal dopis z března, kdy více než 1 000 technologických lídrů, včetně Elona Muska, Steva Wozniaka a průkopníka umělé inteligence Yoshua Bengia, vyzvalo k šestiměsíčnímu moratoriu na vývoj nových nástrojů umělé inteligence výkonnějších, než je GPT-4. V tomto dopise se objevily i další názory, které se týkaly umělé inteligence. To proto, že nechtěl otevřeně kritizovat velké technologické firmy, když pracoval pro Google.

V roce 2018 Hinton a dva další kolegové obdrželi Turingovu cenu neboli „Nobelovu cenu za výpočetní techniku“ za práci na neuronových sítích. Google v roce 2018 koupil za 44 milionů dolarů jeho společnost, která vyvinula výkonné technologie, jež vedly k vytvoření chatbotů.

Gates odmítá výzvy k pozastavení vývoje chatbotů s umělou inteligencí

V samostatném rozhovoru Hinton pro BBC News řekl: „Dospěl jsem k závěru, že druh inteligence, který vyvíjíme, se velmi liší od inteligence, kterou máme.“

„Velký rozdíl je v tom, že u digitálních systémů máte mnoho kopií stejného souboru vah, stejného modelu světa.

„Všechny tyto kopie se mohou učit odděleně, ale své znalosti okamžitě sdílejí. Je to tedy, jako byste měli 10 000 lidí a kdykoli se jeden člověk něco naučil, všichni to automaticky věděli. A tak mohou tito chatboti vědět mnohem víc než kterýkoli jednotlivý člověk.“

Jedno z nejvýznamnějších rizik vidí v tom, že autoritářští vůdci mohou technologii AI využít k „manipulaci“ mas.

Okamžitě to zastavte, varuje expert před umělou inteligencí. Toto prý může nastat

Hintonovy obavy možná přicházejí trochu pozdě, protože tato technologie se již používá. Podobné obavy vyjádřili inženýři a vědci již v minulosti, a to v souvislosti s jadernou energetikou a biochemií. Je nevyhnutelné, že svět bude nakonec čelit krizi způsobené umělou inteligencí.

Zdroj: nytimes.com