Britská expertka pre HN: Najväčší mýtus? To, že umelá inteligencia je objektívna

Elon Musk sa v jednom rozhovore vyjadril, že umelá inteligencia predstavuje riziko a môže viesť až k zničeniu civilizácie. Čo si o tom myslíte?

Elon Musk má veľmi blízko k niektorým z týchto technológií, o ktorých hovorí, takže nepochybne existuje existenčné riziko. A najmä tu u nás v Cambridgei je veľa ľudí, ktorí na tom pracujú. Odkiaľ však toto riziko pochádza? Nepochádza zo samotných strojov. Bude to kvôli monopolizácii moci vo veľkých technológiách, monopolizácii výpočtovej sily, boju o zdroje, ktorý sa teraz, keď USA zakázali Číne dovážať svoje mikročipy, stáva geopolitickým. Tieto druhy konfliktov budú výsledkom existenčnej krízy, ak nejaká nastane.

Ako to môžeme zmeniť?

Tým, že zabezpečíme väčšiu rozmanitosť vo veľkých technologických firmách a viac hlasov vo veľkých technologických firmách, že budú lepšie odbory a budeme mať právnikov, ktorí sa budú zastávať etických inžinierov, ktorí chcú prehovoriť alebo sa stať informátormi. Tým, že budeme mať naozaj silnú občiansku spoločnosť, ktorá by mohla hnať firmy k zodpovednosti. Naozaj dobrý aktivizmus, iné druhy vzdelávania, budú spôsobom, ako v budúcnosti vyriešiť tieto existenčné obavy.

A môže byť naozaj neužitočné, že veľké osobnosti ako Elon Musk hovoria: Aha, tak všetci zomrieme. Nehovorí totiž, čo musíme urobiť, aby sme tento problém vyriešili. A vyzerá to tak, že riešenie je v rukách tých istých ľudí, ktorí tento problém vytvorili. Teda v rukách veľkých technologických spoločností, ktorým sme dôverovali.

Umelá inteligencia sa môže rozhodnúť, že nás radšej eliminuje. Výskumníci varujú OpenAI pred veľkým krokom

Čo sa týka búrania mýtov o AI, ktoré sú najväčšie a najčastejšie?

Najväčším mýtom je, že umelá inteligencia je neutrálna a objektívna. A ľudstvo už mnoho stoviek rokov vkladá do strojov vieru, že môžu byť lepšou verziou ľudstva, pretože dokážu byť objektívne tam, kde sú ľudia len subjektívni a zaujatí. To nás však odvádza od toho, aké sú tieto technológie ľudské.

Technológiu tvoria ľudské údaje. Je naprogramovaná inžiniermi, ktorí sú ľudia. A ľudia, ktorí anotujú alebo označujú údaje, sú tiež ľudia, ktorí robia subjektívne rozhodnutia o tom, čo obrázok hovorí, čo vám obrázok hovorí napríklad o posteli, tvári alebo zvierati. A všetk...