Ilya Sutskever is een vooraanstaand persoon op het gebied van kunstmatige intelligentie (AI) en medeoprichter van OpenAI. Sutskever staat bekend om zijn baanbrekende werk op het gebied van AI, met name de ontwikkeling van grote taalmodellen zoals ChatGPT, en is nu begonnen aan een nieuwe onderneming: Safe Superintelligence Inc. (SSI). Hij speelde een sleutelrol in het succes van OpenAI, maar zorgde ook voor controverse die leidde tot het vertrek van Sam Altman bij OpenAI, gedreven door zorgen over de ethische richting en controle van de AI-ontwikkeling.
Safe Superintelligence Inc.
Sutskever heeft samen met voormalig OpenAI engineer Daniel Levy en tech-ondernemer Daniel Gross SSI opgericht. Ze zien zowel grote beloften als serieuze gevaren in superintelligente AI. Dit soort AI kan ons helpen om grote problemen op te lossen, maar het kan ook gevaarlijk zijn als het niet handelt in overeenstemming met menselijke waarden. Superintelligente AI zou enorme verbeteringen kunnen brengen in de gezondheidszorg, klimaatverandering en andere gebieden.
Maar het brengt ook grote risico’s met zich mee. Een superintelligente AI zou te machtig kunnen worden om onder controle te houden, wat tot onvoorspelbare en mogelijk schadelijke resultaten zou kunnen leiden.
Problemen met besturing en uitlijning
Twee grote problemen met superintelligente AI zijn ervoor zorgen dat het handelt in lijn met menselijke waarden (het afstemmingsprobleem) en het onder menselijke controle houden (het controleprobleem). Menselijke waarden kunnen verschillend en complex zijn en een superintelligente AI kan slimmer worden dan wij, waardoor het moeilijk te controleren is.
Waarom SSI belangrijk is
Sutskevers beslissing om SSI te starten laat zien hoe urgent en ingewikkeld het is om veilige superintelligente AI te ontwikkelen. Bestaande inspanningen zijn misschien niet genoeg om deze uitdagingen aan te gaan. SSI wil experts uit verschillende velden samenbrengen om deze problemen aan te pakken en wereldwijde samenwerking en ethiek in AI-ontwikkeling te bevorderen.
De missie van SSI benadrukt de noodzaak om iedereen te laten profiteren van AI, niet slechts enkelen. Dit betekent mensen van over de hele wereld betrekken bij de discussie en samenwerken om regels en waarden te creëren die de ontwikkeling van AI sturen.
Conclusie
De oprichting van Safe Superintelligence Inc. door Ilya Sutskever is een belangrijke stap in het veilig maken van AI. Het is geen slecht teken dat hij de behoefte voelde om SSI te starten; het is een slimme zet die zowel het grote potentieel als de risico’s van superintelligente AI erkent. Door te focussen op veiligheid en ethiek wil SSI ervoor zorgen dat toekomstige AI in lijn is met menselijke waarden en iedereen ten goede komt.
