Stephen Hawking: mänskligheten kan förstöras av AI
Utvecklare och lagstiftare måste fokusera på att 'maximera' teknikens fördelar för samhället
Detta innehåll är föremål för upphovsrätt.
Stephen Hawking har varnat för att artificiell intelligens (AI) kan förstöra mänskligheten om vi inte vidtar åtgärder för att undvika riskerna den utgör.
På årets webbtoppmöte i Portugal sa fysikern att tillsammans med fördelar medför tekniken även faror som kraftfulla autonoma vapen eller nya sätt för de få att förtrycka många.
I citat rapporterade av Forbes , fortsatte han: Framgång med att skapa effektiv AI kan bli den största händelsen i vår civilisations historia. Eller det värsta. Vi vet bara inte.
Hawking föreslog att mänskligheten skulle kunna förhindra AI från att hota vår existens genom att reglera dess utveckling.
Kanske borde vi alla stanna upp ett ögonblick och fokusera inte bara på att göra vår AI bättre och mer framgångsrik, utan också på mänsklighetens fördel, tillade han.
Hans kommentarer kommer mindre än tre månader efter att Elon Musk, grundare av Tesla och SpaceX, sa att AI var mycket mer riskabelt än hotet om en kärnvapenattack från Nordkorea.
Musk berättade tidigare för en panel av amerikanska delstatspolitiker att tills folk ser robotar gå ner på gatan och döda människor vet de inte hur de ska reagera, eftersom det verkar så eteriskt.
Hawking berömde åtgärder i Europa för att reglera ny teknik, rapporterar CNBC , särskilt förslag som lades fram av lagstiftare tidigare i år för att fastställa nya regler kring AI och robotik.
Elon Musk säger att artificiell intelligens är farligare än krig med Nordkorea
15 augusti
Tesla och SpaceX-grundaren Elon Musk säger att artificiell intelligens (AI) är 'väldigt mer riskabelt' än hotet om en attack från Nordkorea.
I kölvattnet av växande spänningar mellan Nordkorea och USA sa Musk i en tweet: 'Om du inte är orolig för AI-säkerhet, borde du vara det.'
Om du inte är bekymrad över AI-säkerhet bör du vara det. Mycket mer risk än Nordkorea. pic.twitter.com/2z0tiid0lc
— Elon Musk (@elonmusk) 12 augusti 2017
Det här är inte första gången som den sydafrikanska uppfinnaren uttrycker sin oro över AI-teknik.
Musk talade till en publik av amerikanska delstatspolitiker på Rhode Island förra månaden, och sa: 'Tills folk ser robotar gå ner på gatan och döda människor vet de inte hur de ska reagera eftersom det verkar så eteriskt.'
För att undvika att AI blir ett hot mot mänskligheten, säger han att den amerikanska regeringen borde 'lära sig så mycket som möjligt' och 'få insikt' i hur tekniken fungerar. Det bör också införa regler för att säkerställa att företag utvecklar AI på ett säkert sätt.
Medan uppfinnaren medger att 'ingen gillar att bli reglerad', säger han att allt annat som är en 'fara för allmänheten är reglerat' och att AI 'bör vara det också.'
Ingen gillar att bli reglerad, men allt (bilar, flyg, mat, droger, etc) som är en fara för allmänheten är reglerat. AI borde också vara det.
— Elon Musk (@elonmusk) 12 augusti 2017
Musks kommentarer kommer samtidigt som artificiell intelligens, utvecklad av hans OpenAI-företag, framgångsrikt besegrade några av världens främsta spelare i datorspelet Dota 2, rapporterar Väktaren .
Systemet 'lyckades vinna alla sina 1-v-1-spel vid de internationella Dota 2-mästerskapen mot många av världens bästa spelare som tävlar om en prisfond på $24,8 miljoner (£19 miljoner').
Elon Musk kräver AI-reglering innan 'det är för sent'
18 juli
SpaceX och Teslas grundare Elon Musk har krävt att utvecklingen av artificiell intelligens (AI) ska regleras innan 'det är för sent'.
Vid ett möte med amerikanska delstatspolitiker på Rhode Island förra helgen sa den sydafrikanskt födda uppfinnaren: 'AI är ett sällsynt fall där jag tror att vi måste vara proaktiva i reglering istället för att reaktiva.
'Tills folk ser robotar gå ner på gatan och döda människor, de vet inte hur de ska reagera eftersom det verkar så eteriskt.'
Han tillade: 'AI är en grundläggande risk för existensen av mänsklig civilisation.'
Han sa också att AI skulle ha en betydande inverkan på jobb eftersom 'robotar kommer att kunna göra allt bättre än oss', och tillade att transportsektorn, som han sa stod för 12 procent av jobben i USA, skulle vara 'en av de första sakerna blir helt autonoma”.
Musk talade också om sin 'önskan att etablera interplanetära kolonier på Mars' för att fungera som säkra tillflyktsorter om robotar skulle ta över jorden, CleanTechnica rapporterar.
För att undvika att det skulle hända i första hand uppmanade han regeringen att 'lära sig så mycket som möjligt' och 'få insikt' om hur AI kan utvecklas säkert.
Kritiker säger dock att Musks kommentarer kan 'distrahera från mer pressande oro', skriver Tim Simonite på Trådbunden .
Ryan Calo, expert på cyberrätt vid University of Washington, sa till webbplatsen: 'Artificiell intelligens är något som beslutsfattare bör vara uppmärksamma på.
'Men att fokusera på det existentiella hotet distraherar dubbelt från dess potential för det goda och de verkliga problemen som det skapar idag och på kort sikt.'
