Výzkumný pracovník společnosti OpenAI, který měl na starosti, aby byla společnost (a svět) připravena na nástup umělé obecné inteligence (AGI), rezignoval – a varuje, že nikdo není připraven na to, co přijde. (Foto: Flickr / ilustrační)

V příspěvku na svém osobním Substacku nově odstoupivší ředitel firmy pro připravenost AGI Miles Brundage uvedl, že odchod z „práce snů“ po šesti letech byl těžký. Říká, že tak činí proto, že cítí velkou zodpovědnost, pokud jde o umělou inteligenci údajně na úrovni člověka, kterou podle něj OpenAI uvádí do života.

„Rozhodl jsem se,“ napsal Brundage, “že chci ovlivňovat a působit na vývoj umělé inteligence spíše zvenčí než zevnitř odvětví.“

Skryté ovlivňování voličů: pro koho hlasuje Alexa od Amazonu?

Pokud jde o připravenost na zacházení se stále ještě teoretickou technologií, byl výzkumník jednoznačný.

„Stručně řečeno, ani OpenAI, ani žádná jiná hraniční laboratoř není připravena,“ napsal, “a svět také není připraven.“

Úrovně a úrovně

Po tomto odvážném prohlášení Brundage pokračoval, že se o svůj pohled podělil s vedením OpenAI. Pro zajímavost dodal, že si myslí, že „AGI je přetížená fráze, která implikuje spíše binární způsob myšlení, než že by ve skutečnosti dávala smysl“.

Bod zlomu s umělou inteligencí v oblasti videa. To vám vyrazí dech

Brundage skutečně řekl, že se podílel na vytvoření pětistupňové škály úrovní AI/AGI společnosti OpenAI, která v létě unikla do agentury Bloomberg. Na této stupnici, která končí AI, jež dokáže „vykonávat práci organizace“, se podle OpenAI svět v současné době nachází v propasti úrovně dvě, která by se vyznačovala AI, jež má schopnost uvažování na úrovni člověka.

Přesto Brundage trvá na tom, že jak OpenAI, tak svět obecně nejsou na vytvářené systémy AI nové generace připraveni.

Pozoruhodné je, že Brundage se stále domnívá, že AGI sice může přinést prospěch celému lidstvu, ale nestane se tak automaticky.

Gates chce zachránit planetu: pomocí AI geneticky modifikovat hovězí dobytek

Naopak, lidé, kteří ji budou vytvářet – a regulovat -, na to musí jít cíleně. Tato námitka naznačuje, že si možná nemyslí, že OpenAI přistupuje ke správě AGI dostatečně promyšleně.

Po odchodu vedoucího výzkumného pracovníka Brundage říká, že OpenAI přeřazuje členy svého týmu pro připravenost AGI do jiných skupin v rámci organizace. Toto rozpuštění přichází méně než šest měsíců poté, co byl zrušen tým pro bezpečnost AI, což nevěstí nic dobrého, protože tato poslední rezignace velkého jména otřásá vedením společnosti.

Zdroj: news.yahoo.com

Režisér Terminátor: „Varoval jsem je v roce 1984 a oni mě neslyšeli!“