Robots mogen geen eigen taal bedenken
Digital Journal | 31 July 2017 - 07:0031 Jul - 07:00
Een Artificial Intelligence (AI)-systeem dat door Facebook wordt ontwikkeld begon een eigen taal te vormen, en dat ging de researchers te ver. Toen ze zagen dat het systeem een vorm van het Engels gebruikte die onbegrijpelijk is voor de mens, grepen ze in.
Het systeem is dan namelijk niet langer controleerbaar: wat als abacadabra klinkt voor mensen was betekenisvol voor het systeem. De AI-werktuigen konden met elkaar communiceren en daardoor besluiten welke volgende stappen gezet zouden worden, zonder dat de onderzoekers precies begrepen wat de bedoeling was.
De onderzoekers hadden twee bots aan het werk gezet om te onderhandelen. Ze kregen de opdracht een aantal voorwerpen te verdelen zoals in dit filmpje:
Bob en Alice, de twee bots die aan het onderhandelen waren, wisselden vervolgens de volgende zinnen uit:
Bob: 'I can i i everything else.'
Alice: 'Balls have zero to me to me to me to me to me to me…'
Het lijkt nonsens, maar de onderzoekers vermoeden dat de bots met de herhaling van 'i' en 'to me' aangeven hoeveel voorwerpen ieder krijgt. In gewone taal zouden ze dus zeggen 'Ik krijg er drie en jij krijgt de rest', maar de bots besloten kennelijk om een efficiëntere taal te bezigen.
Ook al is nog niet duidelijk of het gevaar dreigde dat de bots zich zouden onttrekken aan de controle van hun toezichthouders, hebben de onderzoekers toch maar besloten de uitwisseling af te breken.