Framtidens smarta datorer riskerar att utsätta mänskligheten för katastrofer. Det menar forskare inom det nya området AGI, artificiell generell intelligens. Självständiga nätverk och robotar kan därmed läggas till listan över framtida teknikhot.

När vi tänker på teknik som kan leda till katastrofer tänker vi oftast på kärnvapen och kärnkraft, eller den globala uppvärmningen. Men även intelligens i nätverk och robotar kan bli mänskligheten övermäktig.

Dataforskningen kommer att leda till intelligenta system som med hjälp av robotar kan agera utifrån nya problemsituationer. De designar sig själva när saker inte fungerar och är helt oberoende av människor. Systemen blir smartare än den mänskliga hjärnan, och enligt forskarna är det bara en tidsfråga innan den generella artificiella intelligensen, AGI, är verklighet. Vi måste därför förbereda oss på att intelligensen kan rusa iväg och ställa till det för oss människor, ungefär som virus och konstgjorda sjukdomar från biolabb.

I programmet medverkar Seth Baum, Global Catastrophic Risk Institute, New York, Roman Yampolskiy, Louisville University, Kentucky, USA, Anders Sandberg, Oxford University samt Karim Jebari, Kungliga tekniska högskolan i Stockholm.

reporter Per Gustafsson [email protected]