OpenAI-medeoprichter Ilya Sutskever sprak over een reeks onderwerpen op NeurIPS, de jaarlijkse AI-conferentie, vrijdagmiddag voordat hij een prijs in ontvangst nam voor zijn bijdragen aan het veld.
Sutskever deed zijn voorspellingen voor ‘superintelligente AI’ – AI die in veel taken beter in staat is dan mensen, en die volgens hem op een gegeven moment zullen worden bereikt. Superintelligente AI zal “kwalitatief anders” zijn dan de AI die we vandaag hebben, zei Sutskever – en in sommige opzichten onherkenbaar.
“(Superintelligente) systemen zullen in werkelijkheid agentisch zijn”, zei Sutskever, in tegenstelling tot de huidige oogst van “zeer licht agentische” AI. Ze zullen “redeneren” en daardoor onvoorspelbaarder worden. Ze zullen dingen begrijpen op basis van beperkte gegevens. En ze zullen zelfbewust zijn, gelooft Sutskever.
Misschien willen ze zelfs rechten. „Het is geen slecht eindresultaat als je AI’s hebt en het enige wat ze willen is naast ons bestaan en alleen maar rechten hebben“, zei Sutskever.
Nadat hij OpenAI had verlaten, richtte Sutskever op Veilige superinlichtingendienst (SSI)een laboratorium gericht op algemene AI-veiligheid. SSI haalde in september 1 miljard dollar op.
