Upozorenje vrhunskog fizičara Maxa Tegmarka: “AI-u se ne smije dati tri stvari. Dali smo mu sve tri”

AI algoritmi stvaraju svijet sa sve više mržnje

Ako se nastavi nekontrolirani razvoj umjetne inteligencije (AI), vođen natjecanjem među kompanijama, ako ne pauziramo kako bismo odredili smjernice za njegov razvoj i neke regulacije, moglo bi nam se dogoditi da nas ona nadvlada i istisne kao što je Homo sapiens istisnuo neandertalce, upozorio je u nedavno objavljenom razgovoru fizičar i istraživač umjetne inteligencije Max Tegmark. U pismu, koje kritizira postojeći pristup u stilu – prvo izgradimo brod, a poslije ćemo ga popravljati – među ostalim navode se 4 ključna pitanja:

• Trebamo li dopustiti strojevima da preplave naše informacijske kanale propagandom i neistinom?
• Trebamo li automatizirati sve poslove, uključujući i one koji ispunjavaju ljudske živote smislom?
• Trebamo li razviti neljudske umove koji bi nas na kraju mogli brojčano nadmašiti, nadmudriti, zastarjeti i zamijeniti?
• Trebamo li riskirati gubitak kontrole nad svojom civilizacijom?

Tegmark upozorava: “Tri stvari koje ne bi trebalo dopustiti u razvoju AI-a već smo dopustili”:

• Naučiti AI-a da sam piše kodove
• Povezati AI s internetom tako da može ići na web stranice, samostalno skidati stvari i razgovarati s ljudima
• Nikada ne bismo trebali naučiti AI nijednu stvar o ljudima. Iznad svega ne bismo mu trebali omogućiti da nauči ljudsku psihologiju i kako manipulirati ljudima. To je najopasnije znanje koje mu možete dati. Index