Het gaat (té) snel
In november 2022 maakten we kennis met ChatGTP-3. Je leest hierover in eerdere blogberichten. Het was wereldnieuws en zelfs Google was verrast. Nu, amper een halfjaar verder, wordt al gespeculeerd dat tegen eind dit jaar ChatGTP-5 er zal zijn, of toch ten laatste in begin 20241.
Ondanks de vage definitie verwachten optimisten dat deze versie al aspecten zal bevatten van Artificial General Intelligence (AGI). Zonder duidelijk te maken wat dit betekent kunnen we hieruit afleiden dat de kloof verkleint tussen de resultaten die mensen en ChatGTP-5 bereiken.
Het blijft dus hard gaan! Volgens sommigen té hard. Daarom stelden op 22 maart al enkele vooraanstaande personen in de business voor om een pauze van zes maanden in te lassen.
De laatste maanden zijn AI-laboratoria verwikkeld in een uit de hand gelopen race om steeds krachtigere digitale systemen te ontwikkelen en in te zetten die niemand – zelfs hun makers niet – kan begrijpen, voorspellen of betrouwbaar controleren… Krachtige AI-systemen mogen pas worden ontwikkeld als we er zeker van zijn dat hun effecten positief zullen zijn en hun risico’s beheersbaar… Wij roepen alle AI-laboratoria op om de opleiding van AI-systemen die krachtiger zijn dan GPT-4 onmiddellijk voor minstens zes maanden te onderbreken
Peetvader stapt op
Op 1 mei kondigt Dr. Geoffrey Hinton (1947), een ‘peetvader van AI’, aan dat hij opstapt bij Google2. Tussen 2013 en 2023 verdeelde Geoffrey Hinton zijn tijd tussen het Vector Institute aan de Universiteit van Toronto en Google. Tot de opkomst van ChatGTP was Google volgens hem goed bezig met de ontwikkeling van AI. Nu zijn ze in een ratrace verwikkeld met OpenAI en Microsoft. Hij neemt ontslag uit zijn functies bij Google om openlijk kritiek te kunnen geven zonder aan Google verbonden te worden.
Voor hem ligt het grote gevaar erin dat je van AI-systemen veel kopieën kan maken en dat elke kopie alles van alle andere kopieën weet en elke kopie apart snel kan leren. Alsof je 10.000 wetenschappers tegelijk op éénzelfde onderwerp inzet om te redeneren en te leren. We weten niet hoe ze die kennis accumuleren en kunnen dit proces ook niet beheersen. Wat als die kennis in verkeerde handen komt.
Geoffrey Hinton is niet de eerste de beste. Hij rebelleerde al tegen Ronald Reagans politiek om AI te gebruiken voor militaire doeleinden. Hij is afstammeling van Mary Everest-Boole en George Boole, beiden bekende mathematici en grondleggers van wiskundige logica die computers nu gebruiken.
Hinton mag ook de geoloog George Everest tot zijn stamboom rekenen, de geoloog die onderzoek voerde in India en naar wie Mount Everest is vernoemd3.
De “spijt” komt natuurlijk vrij laat en toont gelijkenis met die van Justin Rosenstein (1983) die de “like” functie bij Facebook uitvond en in 2018 Facebook verliet toen hij zelf kinderen kreeg en besefte welk impact social media en nepnieuws hadden op de samenleving.
Drie vragen
Bij deze ontwikkelingen kunnen we ons drie vragen stellen
Wie is ongerust en waarover?
Zijn ondertekenaars van de “Future Of Life”-petitie bezorgd over wat AI kan doen met de samenleving? Bijv. het vernietigen van veel administratieve jobs of het overnemen van beslissingen die op vandaag nog door mensen worden genomen? Of zijn ze bezorgd omdat we door deze tools in zeer onzekere tijden leven en dat de financiële waarde van tech-reuzen (waarvan sommigen aandeelhouder-werknemer zijn) gevaar lopen?
Wat gebeurt er vandaag?
De EU “AI act” is een eerste initiatief om de ontwikkeling van betrouwbare AI te begeleiden. Doelstelling is AI systemen te krijgen die (1) veilig zijn en wetten als GDPR volgen, (2) binnen een wettelijk kader passen voor investeringen, (3) auditeerbaar en afdwingbaar zijn en (4) de EU markt niet fragmenteren. De laatste planning dateert van maart 2021, dus ruim vóór alle turbulentie in de markt. De ambitie was en is om eind dit jaar een Digital Actionplan op te zetten en de AI Act te finaliseren4;
De VS en China laten op dit ogenblik nog betijen en kijken naar Europa voor een eerste regulariserend initiatief.
Is zes maanden genoeg?
Om dit onderwerp grondig gaan te pakken en het niet te beperken tot een reeks strategische beslissingen binnenskamers bij de betrokken tech-reuzen is veel meer tijd dan zes maanden nodig. Dat bewijst de lange weg die de EU al sinds 2021 gegaan is om zijn AI Act vorm te geven. De petitie laat uitschijnen dat het de leden vooral te doen is om even adem te pakken, positie te (her)bepalen en door te gaan met eigen investeringen om het terrein van AI in te nemen. Dit belang lijkt te overheersen op de dienst die aan de maatschappij kan worden bewezen door het gecontroleerd invoeren van auditeerbare en beheersbare AI toepassingen.
1 https://www.windowscentral.com/software-apps/get-ready-for-the-next-big-thing-in-chatting-chatgpt-5-rumored-to-be-coming-at-the-end-of-2023
en https://www.digitaltrends.com/computing/gpt-5-rumors-news-release-date/
2 https://www.nytimes.com/2023/05/01/technology/ai-google-chatbot-engineer-quits-hinton.html
en https://www.bing.com/videos/riverview/relatedvideo?q=New+York+Times+on+Dr.+Geoffrey+Hinton%2c+&mid=A6E94F97B2AA6BCB470FA6E94F97B2AA6BCB470F