De makers van chatbot ChatGPT zijn bang dat kunstmatige intelligentie wel eens een bedreiging kan vormen voor de mensheid. De technologie wordt slimmer en slimmer en dat kan wellicht een risicootje opleveren voor ons voortbestaan, schrijven de makers van de tool in een blog.

OpenAI, het bedrijf achter de chatbot, begint daarom met een nieuw team die ervoor moet gaan zorgen dat er geen volledige uitroeiing van de mens komt door de eigen technologie. Het team gaat zich bezighouden met de risico's van 'superintelligente' AI. Het nieuwe team zal worden geleid door hoofdwetenschapper van het bedrijf Ilya Sutskever en Jan Leuke, hoofd van het Alignment Lab. Het lab onderzoekt de lange termijn gevolgen van AI.

"Hoewel AI kan helpen om wereldwijde problemen op te lossen, kan superintelligente AI zorgen voor dat mensen steeds meer machteloos worden of zelfs uitsterven", schrijven de wetenschappers in het blog. Superintelligente AI lijkt nog ver weg, maar kan volgens de makers binnen een decennium ontwikkeld zijn.

Superintelligente AI is slimmer dan welk mens dan ook en kan een bedreiging vormen voor de mensheid. Zeker als de tool zelfbewustzijn krijgt. "Op dit moment is er geen oplossing om superintelligente AI te sturen of beheersen. We kunnen dus ook niet voorkomen dat het losslaat", schrijven Sutskever en Leike. 

Het nieuwe team gaat AI ontwikkelen op het niveau van menselijke intelligentie om te zorgen dat het als 'goede AI' kan monitoren of andere AI-tools niet de verkeerde kant op ontwikkelen.