Google, Microsoft, Amazon en Meta beloven AI veiliger en veiliger te maken

Het Witte Huis heeft “vrijwillige toezeggingen” van technologiebedrijven gekregen dat ze zullen helpen de risico’s van kunstmatige intelligentie te verminderen.

De Amerikaanse president Joe Biden had vrijdag een ontmoeting met Amazon, Microsoft, Meta, Google, OpenAI, Anthropic en Inflection in het Witte Huis, waar ze overeenkwamen de nadruk te leggen op “veiligheid, beveiliging en vertrouwen” bij het ontwikkelen van AI-technologieën. Hier zijn enkele details in elk van deze categorieën.

• Veiligheid: de bedrijven kwamen overeen om “de veiligheid en mogelijkheden van hun AI-systemen te testen, ze te onderwerpen aan externe tests, hun potentiële biologische, cyberbeveiligings- en maatschappelijke risico’s te beoordelen en de resultaten van die beoordelingen openbaar te maken.”
• Beveiliging: De bedrijven zeiden ook dat ze hun AI-producten zullen beschermen “tegen cyber- en insiderbedreigingen” en “best practices en standaarden zullen delen om misbruik te voorkomen, risico’s voor de samenleving te verminderen en de nationale veiligheid te beschermen”.
• Vertrouwen: een van de grootste overeenkomsten die werd gesloten, was dat deze bedrijven het voor mensen gemakkelijk zouden maken om te zien of afbeeldingen origineel, gewijzigd of gegenereerd door AI zijn. Ze zullen er ook voor zorgen dat AI geen discriminatie of vooroordelen bevordert, ze zullen kinderen beschermen tegen schade en ze zullen AI gebruiken om uitdagingen als klimaatverandering en kanker op te lossen.

De komst van OpenAI’s ChatGPT eind 2022 was het begin van een stormloop van grote technologiebedrijven die generatieve AI-tools vrijgaven aan de massa. OpenAI’s GPT-4 is half maart gelanceerd. Het is de nieuwste versie van het grote taalmodel dat de ChatGPT AI-chatbot aandrijft, die onder andere geavanceerd genoeg is om het bar-examen te halen. Chatbots zijn echter vatbaar voor het uitspugen van onjuiste antwoorden en soms bronnen die niet bestaan. Naarmate de acceptatie van deze tools explosief is toegenomen, hebben hun potentiële problemen hernieuwde aandacht gekregen, waaronder het verspreiden van verkeerde informatie en het verdiepen van vooringenomenheid en ongelijkheid.

Wat de AI-bedrijven zeggen en doen

Meta zei dat het het akkoord van het Witte Huis verwelkomde. Eerder deze week lanceerde het bedrijf de tweede generatie van zijn AI-model voor grote talen, Llama 2, waardoor het gratis en open source is.

“Terwijl we nieuwe AI-modellen ontwikkelen, moeten technologiebedrijven transparant zijn over hoe hun systemen werken en nauw samenwerken tussen de industrie, de overheid, de academische wereld en het maatschappelijk middenveld”, zegt Nick Clegg, president van wereldwijde zaken bij Meta.

De overeenkomst met het Witte Huis zal “een basis creëren om ervoor te zorgen dat de belofte van AI de risico’s voor blijft”, zei Brad Smith, vicevoorzitter en president van Microsoft, in een blogpost.

Microsoft is een partner van Meta’s Llama 2. Het lanceerde eerder dit jaar ook AI-aangedreven Bing-zoekopdracht die gebruik maakt van ChatGPT en brengt steeds meer AI-tools naar Microsoft 365 en zijn Edge-browser.

De overeenkomst met het Witte Huis maakt deel uit van OpenAI’s “voortdurende samenwerking met regeringen, maatschappelijke organisaties en anderen over de hele wereld om AI-bestuur te bevorderen”, aldus Anna Makanju, OpenAI vice-president van wereldwijde zaken. “Beleidsmakers over de hele wereld overwegen nieuwe wetten voor zeer capabele AI-systemen. De toezeggingen van vandaag dragen specifieke en concrete praktijken bij aan die voortdurende discussie.”

Amazon ondersteunt van de vrijwillige toezeggingen “als een van ‘s werelds toonaangevende ontwikkelaars en implementeerders van AI-tools en -diensten”, vertelde Tim Doyle, Amazon-woordvoerder, aan CNET in een verklaring per e-mail. “We zijn toegewijd aan het stimuleren van innovatie namens onze klanten, terwijl we ook de nodige waarborgen creëren en implementeren om consumenten en klanten te beschermen.”

Amazon leunt op AI voor zijn podcasts en muziek en op Amazon Web Services.

Anthropic zei in een verklaring per e-mail dat alle AI-bedrijven “moeten meedoen aan een race voor AI-veiligheid”. Het bedrijf zei dat het de komende weken zijn plannen over “cybersecurity, red teaming en verantwoorde schaalvergroting” zal aankondigen.

“Er staat ons een enorme hoeveelheid veiligheidswerk te wachten. Tot dusver zit AI-veiligheid vast in de ruimte van ideeën en vergaderingen”, schreef Mustafa Suleyman, mede-oprichter en CEO van Inflection AI, vrijdag in een blogpost. “De hoeveelheid tastbare vooruitgang versus hype en paniek was onvoldoende. Bij Inflection vinden we dit zowel zorgwekkend als frustrerend. Daarom staat veiligheid centraal in onze missie.”

Wat nog meer?

Google reageerde niet onmiddellijk op een verzoek om commentaar, maar zei eerder dit jaar dat het AI-inhoud van een watermerk zou voorzien. Het AI-model Gemini van het bedrijf identificeert tekst, afbeeldingen en beeldmateriaal die door AI zijn gegenereerd. Het controleert de metadata die in de inhoud zijn geïntegreerd om u te laten weten wat er ongewijzigd is en wat er door AI is gemaakt.

Beeldsoftwarebedrijf Adobe zorgt er op dezelfde manier voor dat het door AI gegenereerde afbeeldingen van zijn Firefly AI-tools tagt met metadata die aangeven dat ze zijn gemaakt door een AI-systeem.

U kunt de volledige vrijwillige overeenkomst tussen de bedrijven en het Witte Huis hier lezen.

De regering-Biden-Harris ontwikkelt ook een uitvoerend bevel en streeft naar tweeledige wetgeving “om Amerikanen te beschermen” tegen AI. Het Amerikaanse Office of Management and Budget zal bovendien richtlijnen vrijgeven voor alle federale instanties die AI-systemen aanschaffen of gebruiken.

Zie ook: ChatGPT versus Bing versus Google Bard: welke AI is het nuttigst?

Noot van de redactie: CNET gebruikt een AI-engine om enkele verhalen te helpen creëren. Voor meer, zie deze post.