Alarm uit techwereld: computer gevaarlijk slim: ’Pauze kunstmatige intelligentie noodzaak’
In een open brief met honderden ondertekenaars van de grootste namen in de technologie, waaronder Elon Musk, mede-oprichter van Apple Steve Wozniak, auteur van Sapiens Yuval Noah Harari, en enkele van AI's meest vooraanstaande academici die verantwoordelijk zijn voor meerdere doorbraken in machine learning, hebben de leidende laboratoria voor kunstmatige intelligentie opgeroepen om de training van nieuwe superkrachtige systemen voor zes maanden stop te zetten, omdat recente ontwikkelingen in AI "diepgaande risico's voor de samenleving en de mensheid" met zich meebrengen.
De brief komt slechts twee weken na de publieke release van OpenAI's GPT-4, het krachtigste AI-systeem ooit uitgebracht, wat heeft geleid tot verlaging van de verwachtingen wanneer AGI - of kunstmatige algemene intelligentie de menselijke cognitieve vermogens overstijgt - zal arriveren. Veel experts vrezen dat de mensheid door een AI-wapenwedloop slaapwandelt naar een catastrofe.
"Geavanceerde AI kan een diepgaande verandering betekenen in de geschiedenis van het leven op aarde, en moet worden gepland en beheerd met evenredige zorg en middelen", aldus de brief. "Helaas gebeurt dit niveau van planning en beheer niet, ook al hebben recente maanden AI-laboratoria gezien die in een ongecontroleerde race verwikkeld zijn om steeds krachtiger digitale geesten te ontwikkelen en implementeren die niemand - zelfs niet hun makers - kunnen begrijpen, voorspellen of betrouwbaar kunnen beheersen."
De lijst van ondertekenaars bevat de namen van meer dan 900 mensen naast Musk, waaronder mede-oprichter van Apple Steve Wozniak, auteur van Sapiens Yuval Noah Harari, en enkele van AI's meest vooraanstaande academici die verantwoordelijk zijn voor meerdere doorbraken in machine learning. Op dinsdag hadden geen OpenAI-medewerkers de brief ondertekend, hoewel de naam van CEO Sam Altman kort op de lijst van ondertekenaars verscheen en verdween. Ten minste vier Google-medewerkers, waaronder drie van haar dochteronderneming AI-lab DeepMind, Emad Mostaque, CEO van Stability AI, en Tristan Harris, uitvoerend directeur van het Center for Humane Technology, verschenen ook op de lijst. TIME kon niet verifiëren of alle handtekeningen echt waren.
"Hedendaagse AI-systemen worden nu mens-competitief in algemene taken", staat in de brief, die werd gehost op de website van het Future of Life Institute. "We moeten onszelf afvragen: moeten we machines onze informatiekanalen laten overspoelen met propaganda en onwaarheden? Moeten we alle banen automatiseren, inclusief de vervullende? Moeten we niet-menselijke geesten ontwikkelen die ons uiteindelijk in aantal, intelligentie, veroudering en vervanging zullen overtreffen? Moeten we het risico lopen de controle over onze beschaving te verliezen? Dergelijke beslissingen mogen niet worden gedelegeerd aan ongekozen technologieleiders."
De brief roept alle AI-laboratoria op om in te stemmen met het gebruik van de voorgestelde pauze van zes maanden om door te gaan met veiligheidsonderzoek. "AI-laboratoria en onafhankelijke experts moeten deze pauze gebruiken om gezamenlijk een set gedeelde veiligheidsprotocollen voor geavanceerd AI-ontwerp en -ontwikkeling te ontwikkelen en te implementeren die streng worden gecontroleerd en toezicht worden gehouden door onafhankelijke externe experts," zo staat er. "Deze protocollen moeten ervoor zorgen dat systemen die eraan voldoen, veilig zijn buiten redelijke twijfel." Degenen achter de brief merken op dat ze niet oproepen tot een algemene pauze in AI-ontwikkeling, maar eerder tot "een stap terug van de gevaarlijke race naar steeds grotere onvoorspelbare black-box-modellen met opkomende capaciteiten."
Gary Marcus, ondertekenaar van de open brief en auteur van het boek Rebooting AI, vertelde TIME dat hij zijn naam toevoegde omdat hij zich verantwoordelijk voelde om zich uit te spreken. "Er zijn ernstige risico's op korte en lange termijn en bedrijfsverantwoordelijkheid voor AI lijkt uit de mode te zijn geraakt op een moment dat de mensheid het het meest nodig heeft," zei hij. "Zo snel klungelen in onbekend terrein met zoveel op het spel lijkt niet de beste manier om te gaan. Als de [bedrijven] deze risico's niet serieus genoeg nemen, is het belangrijk dat de rest van ons ons uitspreekt."
Simeon Campos, CEO van de AI-veiligheidsstart-up SaferAI, vertelde TIME dat hij de brief heeft ondertekend omdat het onmogelijk is om de risico's van systemen te beheren wanneer zelfs de uitvinders van die systemen niet precies weten hoe ze werken, niet weten waartoe ze in staat zijn en niet weten hoe ze beperkingen kunnen opleggen aan hun gedrag. "Wat doen we op dit moment?" zei Campos. "We schalen dergelijke systemen op naar ongekende niveaus van capaciteiten in een race op volle snelheid met transformerende effecten op de samenleving. We moeten de ontwikkeling van deze systemen vertragen om de samenleving de kans te geven zich aan te passen en alternatieve AGI-architecturen te versnellen die veilig en formeel verifieerbaar zijn door ontwerp."
De open brief eindigt hoopvol. "De samenleving heeft eerder een pauze genomen voor andere technologieën met potentieel catastrofale effecten op de samenleving. We kunnen dat hier ook doen. Laten we genieten van een lange AI-zomer, en niet onvoorbereid in een valkuil stappen."
(Bericht vertaald door AI.)