Ska vi vara oroliga för artificiell intelligens?
På djupet: uppkomsten av AI-robotar kan skapa eller bryta mänsklighetens framtid
Intelligenta robotar utför ett ökande antal roller
Getty bilder
Framgång med att skapa effektiv AI kan bli den största händelsen i vår civilisations historia. Eller det värsta. Vi vet bara inte, sa professor Stephen Hawking vid veckans webbtoppmöte i Lissabon.
Tillsammans med många fördelar, sa Hawking, medför artificiell intelligens (AI) många faror, som kraftfulla autonoma vapen, eller nya sätt för de få att förtrycka många.
Fysikern efterlyste ny reglering för att säkerställa att mänskligheten kunde förhindra AI från att hota dess existens.
Kanske borde vi alla stanna upp ett ögonblick och fokusera inte bara på att göra vår AI bättre och mer framgångsrik, utan också på mänsklighetens fördel, tillade han.
Hawking är inte den enda ljusaren från vetenskaps- och teknikvärlden som har varnat för AI:s framtid.
Vi borde alla vara väldigt försiktiga med artificiell intelligens, Bill Gates sa tidigare i år. Om jag måste gissa vad vårt största existentiella hot är, så är det förmodligen det. Med artificiell intelligens kallar vi demonen.'
De senaste månaderna har det varit rubriker om mördarrobotar och om automatisering som ersätter mänskliga arbetare, men också om algoritmer som hjälper till att diagnostisera cancer och framgångsrik utveckling av självkörande bilar.
Vissa forskare hävdar att det är den mest pressande existentiella risken som mänskligheten någonsin kan stå inför, medan andra mestadels avfärdar den hypotesiska faran som ogrundad undergång, säger Moderkort Phil Torres.
Så borde vi vara oroliga för spridningen av AI? Och vad kan vi göra åt det?
Reaktionen på AI
TILL YouGov undersökning förra året av mer än 2 000 personer fann att allmänhetens attityder till AI varierar mycket beroende på dess tillämpning.
Cirka 70 % av de tillfrågade var nöjda med intelligenta maskiner för att utföra till synes obetydliga jobb som grödaövervakning – men detta sjönk till 49 % när det gällde hushållsuppgifter, medan endast 23 % skulle vara glada för att robotar utför medicinska operationer. Och bara 17% var bekväma med idén om så kallade sexrobotar.
En av de främsta bekymmerna med AI är dess opersonliga natur.
I augusti, Tesla och SpaceX vd Elon Musk, tillsammans med 115 andra AI- och robotspecialister, undertecknat ett öppet brev uppmanar FN att erkänna farorna med dödliga autonoma vapen och att förbjuda användningen av dem internationellt.
Enligt Human Rights Watch organisation, USA, Kina, Israel, Sydkorea, Ryssland och Storbritannien har investerat i att utveckla vapensystem med minskande nivåer av mänsklig kontroll i de kritiska funktionerna att välja och engagera mål.
Steven Finlay , författare till Artificial Intelligence and Machine Learning for Business, tror att autonoma beväpnade robotar som kan spåra och rikta in sig på människor med hjälp av mjukvara för ansiktsigenkänning, är precis runt hörnet.
AI och robotik går så snabbt framåt att krig inom flera år kan utkämpas med autonoma vapen och fordon, rapporterar Väktaren .
Reglera eller utrota?
AI-reglering är ett svar på problemet.
En sund modern demokrati kräver att vanliga medborgare deltar i offentliga diskussioner om snabbt framskridande teknologier. Vi behöver desperat nya policyer, förordningar och skyddsnät för dem som fördrivits av maskiner, säger Nationen Katharine Dempsey.
Elon Musk håller med. Tillbaka 2014 sa han: Jag är alltmer benägen att tro att det borde finnas en viss tillsyn av reglering, kanske på nationell och internationell nivå, bara för att se till att vi inte gör något väldigt dumt.
Den största oron är utan tvekan att maskiner kan bli bättre på att fatta beslut än människor, och förslava mänskligheten till automatiserade beslutsfattare och den som kontrollerar dem.
AI-baserade system ersätter redan många jobb. Till exempel kan vissa AI-maskiner upptäcka hudcancer lika exakt som en mänsklig läkare, Trådbunden rapporterar.
Många av våra val är redan influerade av AI, via webbplatser som Amazon och Facebook. Algoritmer avgör innehållet vi ser på nätet och ger rekommendationer om allt från vad vi tittar på på tv och var vi äter till vem vi dejtar.
Det som gör det här scenariot så farligt är att det inte planeras av någon övergripande underrättelsetjänst eller maskinöverherre, säger Steven Finlay. Vi skapar just den teknik som kan leda till vår död.
En förändring till det bättre?
Allt är inte undergång och dysterhet.
Jag är optimistisk att vi kan skapa en inspirerande framtid med AI om vi vinner kapplöpningen mellan den växande kraften hos AI och den växande visdom som vi hanterar den med, men det kommer att kräva planering och arbete, säger fysiker Max Tegmark, författare till Life 3.0: Being Human in the Age of Artificiell Intelligens, berättat Moderkort .
Samtidigt som Tegmark förespråkar reglering, menar han att det också måste finnas ett fokus på uppsidan av att använda AI. Om folk bara fokuserar på baksidorna blir de förlamade av rädsla och samhället blir polariserat och splittrat, avslutar han.
