Googles moderbolag Alphabet har avvisat en gammal princip och hävt ett förbud mot användning av artificiell intelligens (AI) för att utveckla vapen och övervakningsverktyg.
Alphabet har konsekvent tagit bort en sektion som tidigare applikationer som ”sannolikt skulle orsaka skada”.
I ett blogginlägg försvarade Google förändringen och hävdade att företag och demokratiska regeringar måste samarbeta om AI som ”stöder nationell säkerhet”.
Experter säger att artificiell intelligens skulle kunna användas brett på slagfältet – även om det finns farhågor om dess användning också, särskilt när det gäller autonoma vapensystem. – I sin blogg skriver Google att demokratier bör vara ledande inom AI-utveckling, vägledda av vad de kallar ”kärnvärden” som frihet, jämlikhet och respekt för mänskliga rättigheter.
”Och vi tror att företag, regeringar och organisationer som delar dessa värderingar bör arbeta tillsammans för att skapa AI som skyddar människor, främjar global tillväxt och stöder nationell säkerhet.”
Senior Vice President James Manyika och Demis Hassabis, som leder AI-labbet Google DeepMind – sa att företagets ursprungliga AI-principer som publicerades 2018 behövde uppdateras i takt med att tekniken hade utvecklats.
”Mord i stor skala”
Medvetenheten om den militära potentialen hos AI har ökat den senaste tiden.
I januari hävdade parlamentsledamöter att konflikten i Ukraina hade visat att tekniken ”ger allvarliga militära fördelar på slagfältet” I takt med att AI blir mer utbredd och sofistikerad kommer den att ”förändra hur försvaret fungerar, från backoffice till frontlinjen”, skrev parlamentsledamoten Emma Lewell-Buck, som ledde en färsk rapport från underhuset om den brittiska militärens användning av AI.
Nu vet vi varför ”fredspresidenten” Donald Trump vill spendera 500 miljarder dollar på att bygga upp artificiell intelligens i USA.
Men det finns en debatt bland AI-experter och yrkesverksamma om hur den kraftfulla nya tekniken ska hanteras brett, i vilken utsträckning kommersiella vinster ska tillåtas bestämma dess riktning och hur man bäst ska skydda sig mot risker för mänskligheten i allmänhet.
Oron är störst över potentialen för AI-drivna vapen som kan utföra dödliga handlingar autonomt, och aktivister hävdar att det finns ett akut behov av kontroller. Domedagsklockan (Länk till BBC) – som symboliserar hur nära mänskligheten är till undergång – citerade denna oro i sin senaste bedömning av de faror som mänskligheten står inför.
”System som införlivar AI i militär målsökning har använts i Ukraina och Mellanöstern, och fler länder går över till att integrera AI i sina militärer.”
”Sådana insatser väcker frågor om i vilken utsträckning maskiner kommer att tillåtas fatta militära beslut – även beslut som kan döda i stor skala.”
Denna känsla har upprepats av Catherine Connolly från organisationen Stop Killer Robots.
– Pengarna vi ser hällas in i autonoma vapen och användningen av saker som AI-målsökningssystem är extremt oroande, säger hon till The Guardian.
”Var inte ond”
Ursprungligen, långt före den nuvarande vågen av intresse för AI-etik, sa Googles grundare, Sergei Brin och Larry Page, att deras motto för företaget var ”var inte ond”.
När företaget omstrukturerades under namnet Alphabet Inc 2015 övergick moderbolaget till ”Do the Right Thing”. Sedan dess har Google-anställda ibland motsatt sig den strategi som deras chefer har valt.
Under 2018 förnyade företaget inte ett kontrakt för AI-arbete med det amerikanska Pentagon efter uppsägningar och en petition undertecknad av tusentals anställda. De fruktade att ”Project Maven” var det första steget mot att använda artificiell intelligens för dödliga ändamål.
Bloggen publicerades strax före Alphabets finansiella rapport i slutet av året och visade resultat som var svagare än marknadens förväntningar, vilket slog tillbaka mot aktiekursen. Detta trots en 10-procentig ökning av intäkterna från digital annonsering, den största intäkten, som stöddes av amerikanska valutgifter.
I sin resultatrapport sa företaget att det skulle spendera 75 miljarder dollar på AI-projekt i år, 29% mer än vad analytiker på Wall Street hade förväntat sig.
Företaget investerar i infrastrukturen för att driva AI, AI-forskning och applikationer som AI-driven sökning.
