Proroctví spisovatele George Orwella z jeho knihy 1984 se může naplnit již tento rok, nebudou-li přijaty zákony na ochranu lidí před umělou inteligencí, píše deník The Daily Mail a odvolává se na prohlášení prezidenta Microsoftu Brada Smitha. (Foto: Flickr)

Podle Smithových slov se může společnost totální kontroly a špehování, kterou popsal Orwell ve svém díle, stát realitou už do roku 2024, nebudou-li podniknuta opatření k zadržování umělé inteligence. Jak píše The Daily Mail s odvoláním na informaci od anonymního čínského inženýra, úřady ČLR už používají UI pro špehování obyvatelstva, a užívají mj. technologie, která rozeznává emoce a zjišťuje vinu. Podle slov inženýra je princip činnosti této technologie srovnatelný s polygrafem.

„Užívá se jí, aby bylo potvrzeno předem učiněné rozhodnutí úřadů za nedostatku přesvědčivých důkazů. Počítač usoudí, že je člověk nebezpečný – a je tedy vinen z velkého množství zločinů, k nimž se zatím nepřiznal,“ uvádí deník slova čínského inženýra.

Jak píše The Daily Mail, běžné využití UI spočívá v tom, aby byl algoritmus „naučen“ tomu či onomu aspektu pomocí souboru dat. Například, je možné naučit UI rozeznávat na fotografii určitý druh rostlin, jehož zobrazení byla uložena do její paměti. Může se ale užívat i pro méně ušlechtilé cíle, jako je třeba zjištění viny občanů zadržených policií.

Podle Smithových slov příklad Číny ukazuje, že se svět přibližuje sci-fi: „Stále si vzpomínám na ponaučení George Orwella z knihy 1984. Jeho hlavní smysl spočívá v tom, že vláda může všechno vidět a slyšet. Nenaplnilo se to v roce 1984, avšak nebudeme-li opatrní, může se to uskutečnit v roce 2024.“

Jak podotýká deník, nejen ČLR využívá UI pro špehování lidí. Například, USA využívají technologií Google, jako je třeba rozeznávání obrazů, schopnost rozlišovat lidi a objekty. Těchto technologií bylo použito pro vojenské účely, po čemž několik pracovníků z Google odešlo na znak protestu. V důsledku toho společnost od projektu odstoupila, ministerstvo obrany USA si však našlo v Křemíkovém údolí nové partnery. Podle slov kongresmana Setha Moultona mají technologické společnosti podporovat vládu. Podotkl, že horečné zbrojení v oblasti UI může přivést ke konfliktu s ČLR.

Podle slov britského profesora Stuarta Russella je technologie UI pro lidstvo rozcestím: „Uděláme-li všechno správně, může nastat pro lidstvo zlatý věk, zbavíme se bídy a nemocí. Když to ale uděláme špatně, zřídíme technologiemi podporovanou globální diktaturu, a můžeme dokonce přenechat kontrolu nad naším světem svým vlastním technologiím“.

Zdroj: dailymail.co.uk