Facebook stänger av experimentet efter att AI uppfunnit sitt eget språk
Forskare avslutar projekt efter att maskiner utvecklat ett eget sätt att kommunicera på ett obegripligt sätt för människor
Intelligenta robotar utför ett ökande antal roller
Getty bilder
Guppa: jag kan jag allt annat. . . . . . . . . . . . . .
Alice: bollar har noll till mig till mig till mig till mig till mig till mig till mig till mig till
Guppa: du jag allt annat. . . . . . . . . . . . . .
Alice: bollar har en boll till mig till mig till mig till mig till mig till mig till mig
Guppa: jag kan jag jag allt annat . . . . . . . . . . . . . .
Alice: bollar har en boll till mig till mig till mig till mig till mig till mig till mig
Trots att det såg ut som manuset från en riktigt fruktansvärd tv-sitcom, inträffade denna konversation faktiskt mellan två artificiell intelligens-program, utvecklade på Facebook för att fullända konsten att förhandla.
Till en början pratade de två med varandra på vanlig engelska. Men sedan insåg forskarna att de hade gjort ett misstag i maskinernas programmering.
'Det fanns ingen belöning att hålla sig till det engelska språket,' berättade Dhruv Batra, gästforskare från Georgia Tech vid Facebook AI Research (Fair) FastCo .
Eftersom dessa två agenter tävlade om att få den bästa affären, erbjöds ingen av dem någon form av incitament för att tala som en normal person skulle göra, säger FastCo.
Så de började divergera och så småningom ordnade om begripliga ord till till synes meningslösa meningar, vilket gjorde att experimentet avbröts.
Facebook var tvungen att stänga av en AI eftersom den utvecklade sitt eget språk pic.twitter.com/EsVEkWViTv
— NowThis (@nowthisnews) 31 juli 2017
'Agenter (eller program) kommer att glida bort ett begripligt språk och uppfinna kodord för sig själva', förklarade Batra. 'Som om jag säger 'den' fem gånger, tolkar du det som att jag vill ha fem exemplar av det här föremålet. Det här skiljer sig inte så mycket från hur människors samhällen skapar stenografier.'
Men forskarna var angelägna om att betona, experimentet övergavs inte på grund av några bekymmer om de potentiellt negativa effekterna av robotarnas kommunikation.
Rättviseforskaren Mike Lewis sa till FastCo att de helt enkelt hade bestämt att 'vårt intresse var att ha bots som kunde prata med människor', inte effektivt med varandra, och valde därför att kräva att de skulle skriva till varandra på ett läsligt sätt.
Det är inte första gången som maskiner med artificiell intelligens har dykt upp för att skapa sitt eget språk.
I november förra året avslöjade Google att den AI som den använder för sitt översättningsverktyg hade skapat ett eget språk, som det skulle översätta fraser till och ur innan de levererade ord på målspråket.
Rapporterar om utvecklingen då, Tech Crunch sa: 'Detta 'interlingua' verkar existera som en djupare representationsnivå som ser likheter mellan en mening eller ett ord.'
'Det kan vara något sofistikerat, eller det kan vara något enkelt', tillade webbplatsen, men 'det faktum att det existerar överhuvudtaget - en original skapelse av systemets eget för att hjälpa till med dess förståelse av begrepp som det inte har tränats att förstå — är, filosofiskt sett, ganska kraftfulla saker'.
Denna senaste utveckling har lett till etiska diskussioner om de potentiella problemen med maskiner som kommunicerar med varandra utan mänsklig inblandning.
'I Facebook-fallet var det enda chatbotarna kunde göra att komma på ett mer effektivt sätt att handla', säger Gizmodo .
Men det finns 'förmodligen goda skäl att inte låta intelligenta maskiner utveckla sitt eget språk som människor inte skulle kunna förstå på ett meningsfullt sätt', tillägger webbplatsen.
'Förhoppningsvis kommer människor också att vara tillräckligt smarta för att inte koppla in experimentella maskininlärningsprogram till något mycket farligt, som en armé av laser-toting androider eller en kärnreaktor.'
