Federala tjänstemän oroade över Amazons AI-träning på statlig data

Tjänstemän inom USA:s federala myndigheter var kortvarigt oroade över att Amazon potentiellt kunde använda statlig data för att träna sin artificiella intelligens (AI). Denna oro framgår av dokument som Fast Company erhållit genom en offentlighetsbegäran. Även om oron var kortvarig, belyser händelsen hur beroende federala myndigheter har blivit av företag som Amazon för att hosta statlig programvara och data.

Oron uppstod tidigt under 2024 när en IT-tjänsteman vid U.S. Securities and Exchange Commission (SEC) noterade att Amazon hade uppdaterat sina användarvillkor. Enligt uppdateringarna kunde Amazon använda data utanför kundens miljö och till och med utanför USA för AI-träning. Tjänstemannen uppmanade federala myndigheter att "välja bort" denna möjlighet och beskrev det som en "brådskande potentiell dataläckage". Flera Amazon-tjänster, inklusive Amazon Rekognition, Amazon Polly och Amazon Translate, identifierades som potentiellt påverkade.

Amazon konkurrerar intensivt om federala molnavtal med företag som Google och Microsoft. Företaget har aviserat investeringar på upp till 50 miljarder dollar i statliga databehandlingstjänster. Även FBI undersökte kortvarigt potentiella risker. Amazon klargjorde dock för FBI att deras tjänster lagrades i separata molnsystem och att ändringarna inte skulle påverka FBI:s data.

Experter inom området pekar på att den här typen av missförstånd är vanliga inom statlig teknikupphandling. Inköpsansvariga saknar ofta teknisk expertis för att fullt ut förstå de tekniska tjänstevillkoren, vilket kan leda till att data oavsiktligt eller avsiktligt används för AI-träning. SEC vägrade kommentera, och Amazon har inte besvarat upprepade förfrågningar om kommentarer.