Top AI-bedrijven bezoeken het Witte Huis om ‘vrijwillige’ veiligheidstoezeggingen te doen

Top AI-bedrijven bezoeken het Witte Huis om ‘vrijwillige’ veiligheidstoezeggingen te doen

Hoewel inhoudelijke AI-wetgeving misschien nog jaren op zich laat wachten, beweegt de industrie zich met lichte snelheid en velen – waaronder het Witte Huis – zijn bang dat het meegesleept zal worden. Daarom heeft de Biden-administratie “vrijwillige toezeggingen” verzameld van 7 van de grootste AI-ontwikkelaars om gedeelde doelstellingen op het gebied van veiligheid en transparantie na te streven in de aanloop naar een geplande Executive Order.

OpenAI, Anthropic, Google, Inflection, Microsoft, Meta en Amazon zijn de bedrijven die deelnemen aan deze niet-bindende overeenkomst en zullen vandaag vertegenwoordigers naar het Witte Huis sturen voor een ontmoeting met president Biden.

Voor alle duidelijkheid: er wordt hier geen regel of handhaving voorgesteld – de overeengekomen praktijken zijn puur vrijwillig. Maar hoewel geen enkele overheidsinstantie een bedrijf ter verantwoording zal roepen als het er een paar onttrekt, zal het waarschijnlijk ook een openbare zaak zijn.

Hier is de lijst met aanwezigen bij het optreden in het Witte Huis:

  • Brad Smith, voorzitter van Microsoft
  • Kent Walker, voorzitter van Google
  • Dario Amodei, CEO, Antropisch
  • Mustafa Suleyman, CEO, Inflection AI
  • Nick Clegg, voorzitter, Meta
  • Greg Brockman, voorzitter, OpenAI
  • Adam Selipsky, CEO, Amazon Web Services

Geen ondergeschikten, maar ook geen miljardairs. (En geen vrouwen.)

De zeven bedrijven (en waarschijnlijk anderen die niet op de rode loper zijn behandeld maar wel mee willen rijden) hebben zich tot het volgende verplicht:

  • Interne en externe beveiligingstests van AI-systemen vóór vrijgave, inclusief tegenstrijdige “red teaming” door experts buiten het bedrijf.
  • Deel informatie tussen de overheid, de academische wereld en het “maatschappelijke middenveld” over AI-risico’s en mitigatietechnieken (zoals het voorkomen van “jailbreaking”).
  • Investeer in cyberbeveiliging en “waarborgen tegen bedreigingen van binnenuit” om gegevens van privémodellen, zoals gewichten, te beschermen. Dit is niet alleen belangrijk om IP te beschermen, maar ook omdat voortijdige brede vrijgave een kans kan zijn voor kwaadwillende actoren.
  • Faciliteer het ontdekken en rapporteren van kwetsbaarheden door derden, bijvoorbeeld een bug bounty-programma of analyse van domeinexperts.
  • Ontwikkel robuuste watermerken of een andere manier om door AI gegenereerde inhoud te markeren.
  • Rapporteer de “mogelijkheden, beperkingen en gebieden van gepast en ongepast gebruik” van AI-systemen. Veel succes met het krijgen van een duidelijk antwoord op deze.
  • Geef prioriteit aan onderzoek naar maatschappelijke risico’s, zoals systematische vooringenomenheid of privacykwesties.
  • Ontwikkel en implementeer AI “om de grootste uitdagingen van de samenleving aan te pakken”, zoals kankerpreventie en klimaatverandering. (Hoewel in een persoproep werd opgemerkt dat de ecologische voetafdruk van AI-modellen niet werd bijgehouden.)
See also  SpaceX's defensiegerichte Starshield-satellietinternetbedrijf haalt het eerste contract binnen

Hoewel het bovenstaande vrijwillig is, kan men zich gemakkelijk voorstellen dat de dreiging van een uitvoerend bevel – ze zijn er “momenteel een aan het ontwikkelen” – er is om naleving aan te moedigen. Als sommige bedrijven bijvoorbeeld geen externe beveiligingstests van hun modellen toestaan ​​voordat ze worden vrijgegeven, kan de EO dat doen ontwikkelen een paragraaf waarin de FTC wordt opgedragen nauwkeurig te kijken naar AI-producten die een robuuste beveiliging claimen. (Eén EO is al van kracht en vraagt ​​bureaus om op te passen voor vooringenomenheid bij de ontwikkeling en het gebruik van AI.)

Het Witte Huis staat duidelijk te popelen om deze volgende grote golf van technologie voor te zijn, omdat het enigszins met voeten is getreden door de ontwrichtende mogelijkheden van sociale media. De president en vice-president hebben beiden een ontmoeting gehad met leiders uit de industrie en advies ingewonnen over een nationale AI-strategie, en besteden ook veel geld aan nieuwe AI-onderzoekscentra en -programma’s. Natuurlijk is het nationale wetenschaps- en onderzoeksapparaat hen ver vooruit, zoals dit zeer uitgebreide (hoewel noodzakelijkerwijs enigszins verouderde) onderzoeksuitdagingen en kansenrapport van de DOE en National Labs laat zien.

Source link: https://techcrunch.com/2023/07/21/top-ai-companies-visit-the-white-house-to-make-voluntary-safety-commitments/

Leave a Reply