← AI-forskning og utvikling

Intelligenseksplosjon (intelligence explosion)

Intelligenseksplosjon

Et tenkt scenario der en KI blir god nok til å forbedre sin egen etterfølger, som igjen blir enda bedre til å forbedre neste versjon, i en selvforsterkende sløyfe som i teorien kan gå svært raskt. Scenarioet ble først beskrevet av statistikeren I.J. Good i 1965, og filosofen Nick Bostrom ga det en systematisk, akademisk behandling i boken «Superintelligence» (2014). Mekanismen kalles også «rekursiv selvforbedring», og regnes som den mest diskuterte foreslåtte veien mot superintelligens. Fortsatt er det et omstridt, ubevist scenario og ikke en observert hendelse.

En KI-modell brukes til å designe en enda bedre etterfølger av seg selv. Etterfølgeren er så god at den designer en enda bedre versjon igjen, raskere enn forrige runde tok. Hvis denne sløyfen fortsetter å akselerere, kalles det en intelligenseksplosjon.