Geoffrey Hinton, en av pionjärerna inom artificiell intelligens och mottagare av årets Nobelpris i fysik tillsammans med John Hopfield, har under lång tid varnat för riskerna med AI.
Trots att deras banbrytande forskning har revolutionerat AI-fältet och påverkat områden som medicin, klimatmodeller och astrofysik, har Hinton uttryckt djup oro över de potentiella farorna.
Hinton, som tidigare var vice ordförande för Google Brain, sade upp sig från sin roll för att kunna tala öppet om AI:s risker.
I en intervju med New York Times, som gjordes i samband med hans avhopp, varnade han för att AI kan hamna i fel händer.
”Det är svårt att se hur man kan förhindra dåliga aktörer från att använda det för dåliga saker,” sa han då.
Han pekade också på spridningen av falska nyheter och den potentiella faran med en superintelligens som kan ta över.
Trots att han nu mottar Nobelpriset för sitt arbete inom AI-forskning, kvarstår Hinton’s oro för de negativa konsekvenserna av teknologin.
När han tillfrågades om sina tidigare varningar i samband med Nobelpriset, svarade Hinton att han inte känner skuld för sitt arbete men att han fortfarande är orolig.
"Jag skulle göra samma sak igen under samma omständigheter," sa han, och tillade att AIutveckling liknar den industriella revolutionen, med både fördelar och risker.
John Hopfield, 91, som också mottar Nobelpriset, utvecklade på 1980-talet ett associativt minne som lade grunden för neurala nätverks förmåga att känna igen och återskapa mönster.
Hinton byggde vidare på detta med sin utveckling av Boltzmann-maskinen, vilket har haft stor betydelse för utvecklingen av maskininlärning och AI. Trots deras insatser höjer Hinton ett varningens finger och påpekar att vi riskerar att förlora kontrollen över teknologin.
”Vi har ingen erfarenhet av hur det är att ha saker som är smartare än oss,” säger han och betonar vikten av att förstå de möjliga konsekvenserna.
