Top AI-bedrijven bezoeken het Witte Huis om ‘vrijwillige’ veiligheidstoezeggingen te doen

Geen ondergeschikten, maar ook geen miljardairs. (En geen vrouwen.)

De zeven bedrijven (en waarschijnlijk anderen die niet op de rode loper zijn behandeld maar wel mee willen rijden) hebben zich tot het volgende verplicht:

• Interne en externe beveiligingstests van AI-systemen vóór vrijgave, inclusief tegenstrijdige “red teaming” door experts buiten het bedrijf.
• Deel informatie tussen de overheid, de academische wereld en het “maatschappelijke middenveld” over AI-risico’s en mitigatietechnieken (zoals het voorkomen van “jailbreaking”).
• Investeer in cyberbeveiliging en “waarborgen tegen bedreigingen van binnenuit” om gegevens van privémodellen, zoals gewichten, te beschermen. Dit is niet alleen belangrijk om IP te beschermen, maar ook omdat voortijdige brede vrijgave een kans kan zijn voor kwaadwillende actoren.
• Faciliteer het ontdekken en rapporteren van kwetsbaarheden door derden, bijvoorbeeld een bug bounty-programma of analyse van domeinexperts.
• Ontwikkel robuuste watermerken of een andere manier om door AI gegenereerde inhoud te markeren.
• Rapporteer de “mogelijkheden, beperkingen en gebieden van gepast en ongepast gebruik” van AI-systemen. Veel succes met het krijgen van een duidelijk antwoord op deze.
• Geef prioriteit aan onderzoek naar maatschappelijke risico’s, zoals systematische vooringenomenheid of privacykwesties.
• Ontwikkel en implementeer AI “om de grootste uitdagingen van de samenleving aan te pakken”, zoals kankerpreventie en klimaatverandering. (Hoewel in een persoproep werd opgemerkt dat de ecologische voetafdruk van AI-modellen niet werd bijgehouden.)

Hoewel het bovenstaande vrijwillig is, kan men zich gemakkelijk voorstellen dat de dreiging van een uitvoerend bevel – ze zijn er “momenteel een aan het ontwikkelen” – er is om naleving aan te moedigen. Als sommige bedrijven bijvoorbeeld geen externe beveiligingstests van hun modellen toestaan ​​voordat ze worden vrijgegeven, kan de EO dat doen ontwikkelen een paragraaf waarin de FTC wordt opgedragen nauwkeurig te kijken naar AI-producten die een robuuste beveiliging claimen. (Eén EO is al van kracht en vraagt ​​bureaus om op te passen voor vooringenomenheid bij de ontwikkeling en het gebruik van AI.)

Het Witte Huis staat duidelijk te popelen om deze volgende grote golf van technologie voor te zijn, omdat het enigszins met voeten is getreden door de ontwrichtende mogelijkheden van sociale media. De president en vice-president hebben beiden een ontmoeting gehad met leiders uit de industrie en advies ingewonnen over een nationale AI-strategie, en besteden ook veel geld aan nieuwe AI-onderzoekscentra en -programma’s. Natuurlijk is het nationale wetenschaps- en onderzoeksapparaat hen ver vooruit, zoals dit zeer uitgebreide (hoewel noodzakelijkerwijs enigszins verouderde) onderzoeksuitdagingen en kansenrapport van de DOE en National Labs laat zien.