Artiklen er oversat ved hjælp af Google Translat fra The American Prospect. Original artiklen på engelsk kan du læse her.
Nyansættelser og udtalelser i interviews viser, at AI-giganten bruger sine teknologiske muligheder mod systemkritikere.
Jobopslag og interviews med ledende sikkerhedsmedarbejdere hos Anthropic afslører, at virksomheden – der er førende inden for udvikling af avanceret kunstig intelligens – er ved at opbygge et omfattende overvågningssystem. Formålet er at holde øje med aktivister, der modsætter sig den hastige udvikling af kunstig intelligens.
Ud over at overvåge aktivister, der befinder sig i nærheden af virksomhedens ledere, og holde øje med protester ved Anthropics fysiske lokationer, implementerer firmaet også en tilgang, der kan betegnes som “præ-kriminalitetsbekæmpelse” (pre-crime); man forsøger altså at forudsige hændelser, før de finder sted. I visse tilfælde indebærer det også at anmelde mistænkte personer til politiet, før en forbrydelse overhovedet er begået. Anthropic har ikke reageret på en henvendelse fra *Prospect* med anmodning om en kommentar.
Anthropics planer om at overvåge modstandere står i kontrast til virksomhedens bestræbelser på at fremstille sig selv som det ansvarlige alternativ til OpenAI. Tidligere på året var der en opsigtsvækkende konflikt mellem det amerikanske forsvarsministerium og Anthropic, fordi virksomheden nægtede at lade militæret bruge dens værktøjer til masseovervågning af civilbefolkningen og til autonome våbensystemer. Denne spænding ser nu ud til at være aftaget, idet Anthropic ansætter medarbejdere til stillinger inden for salg til den nationale sikkerhedssektor i et forsøg på at genoptage samarbejdet med militæret. Den øgede overvågning af indenlandske modstandere hænger sammen med dette fornyede fokus på national sikkerhed.
En del af Anthropics overvågningssystem blev afsløret i et podcastinterview fra sidste år med Keon Ellison (leder af Anthropics globale sikkerhedscenter), Zach Melvin (leder af sikkerhedsoperationer) og James Neufeld (administrerende direktør for Samdesk, en virksomhed, som Anthropic samarbejder med om registrering af risici).
I en samtale, der kom vidt omkring emner som trusselsanalyse og -overvågning, blev også overvågningen af aktivister berørt. “Sidste år var en af vores ledere på rejse i en storby, da vi via Samdesk modtog oplysninger om en planlagt protest,” fortalte Ellison. Den oprindeligt planlagte protest blev rykket frem i tid på grund af problemer med tilladelser. “Samdesk gav os et varsel på omkring 60 minutter om, at arrangørerne havde ændret tidsplanen,” forklarede Ellison. “Den ekstra time var afgørende. Uden den var vores ledere gået direkte fra deres møder og lige ind i centrum af urolighederne.”
Ellison oplyste, at Anthropic brugte disse oplysninger til at planlægge en alternativ rute for lederen og lede vedkommende hen til en serviceindgang på hotellet. ”Det, der kunne have udviklet sig til en meget stressende situation,” sagde han, ”blev i virkeligheden afbødet takket være tidlig opsporing via Samdesk og den information, vi fik derigennem.”
Anthropic er begyndt rutinemæssigt at anmelde trusler til politimyndigheder over hele landet, og virksomheden udtalte i juli til The Wall Street Journal: ”Vi overvåger bekymrende adfærd over tid gennem en proces, hvor vi holder øje med personer af interesse; det gør os i stand til tidligt at opdage mønstre, der tyder på en optrapning.” Ifølge avisen var ”flere af de personer, der var involveret i hændelser anmeldt til politiet, allerede under overvågning af Anthropics sikkerhedsafdeling.”
I sidste måned kunne The San Francisco Standard berette, at Anthropic havde anmeldt en mand til politiet i San Francisco, fordi han havde fortalt Claude, at han havde købt en halvautomatisk AR-15-riffel og havde direktør Dario Amodei ”i sigtekornet”. Da The Standard kontaktede den pågældende mand, forklarede han avisen, at han ”bare lavede sjov”.
Men selvom Anthropic var hurtige til at tilkalde politiet på grund af en frustreret Claude-bruger, afslørede The Standard også en væsentlig detalje: Anthropic nægtede at vise politiet de faktiske beskeder med henvisning til virksomhedens interne retningslinjer. Kort sagt anmeldte Anthropic en bruger for udtalelser fremsat på platformen, men nægtede derefter at udlevere beviser på faktiske lovovertrædelser til politiet.
Denne form for præventiv sikkerhedsindsats – der fremmes uden om normale retlige procedurer – omtales som et eksplicit mål af en sikkerhedschef hos Anthropic i en podcast, som magasinet *Prospect* har anmeldt. “Målet er at transformere driften fra reaktiv informationshåndtering til proaktiv, prædiktiv og forebyggende håndtering af trusler,” udtalte han og tilføjede: “Det er den form for operationel modenhed, der giver mening, når man skal beskytte værdifulde aktiver i enhver branche.”
Anthropics bestræbelser på at opbygge et prædiktivt sikkerhedsapparat rækker ud over den øverste ledelse og omfatter også virksomhedens team for global sikkerhed og efterretning (GSIS). Det fremgår af et jobopslag fra sidste måned, hvor virksomheden søger en specialist i virksomhedsefterretning, der skal “undersøge specifikke trusler, aktører og hændelser, udarbejde færdige vurderinger og hjælpe Anthropics medarbejdere med at være på forkant med et trusselsbillede i hastig udvikling samt sikre en robust forsvarsposition.”
En del af denne stilling – der aflønnes med mellem 180.000 og 230.000 dollars – vil bestå i at “identificere, vurdere, overvåge og undersøge globale trusler, herunder geopolitisk ustabilitet, terrorisme, kriminalitet, aktivisme, statslige aktørers målretning mod AI-sektoren og nye sikkerhedstendenser, herunder dybdegående analyser og indsamling af OSINT (åbne efterretningskilder) om specifikke trusler, aktører og hændelser” (fremhævelse tilføjet).
Udvidelsen af Anthropics efterretningsindsamling til nationalt og endda globalt plan hænger sammen med nylige bestræbelser på at klassificere AI – og den infrastruktur, der driver teknologien, herunder datacentre og energiforsyning – som kritisk infrastruktur. En sådan klassificering ville stille kunstig intelligens på lige fod med vand, elektricitet og bredbånd. Fortalere for AI, såsom organisationen Americans for Responsible Innovation (ARI), har da også opfordret Trump-administrationen til at gennemføre denne ændring. Ifølge ARI er AI “så afgørende for USA, at et svigt eller en ødelæggelse af sådanne systemer og aktiver ville have en lammende effekt på sikkerheden, den nationale økonomiske sikkerhed, folkesundheden eller den offentlige sikkerhed – eller en kombination heraf.”
Hvis man indlejrer førende AI-virksomheder under den nationale sikkerheds beskyttende vinger, vil det ikke blot give virksomheder som Anthropic, OpenAI og Google endnu bedre adgang til efterretninger fra føderale retshåndhævende myndigheder og efterretningstjenester; det vil også give dem mulighed for at præge, hvordan de føderale myndigheder betragter trusler mod virksomhedernes indtjening – trusler, der nu omdefineres som angreb på “kritisk infrastruktur”. Det er ikke svært at forestille sig, hvordan det folkelige engagement fra den samme tværpolitiske koalition, der modarbejder datacentre, kunne rette blikket mod kunstig intelligens – blot for i samme nu at blive stemplet som ekstremister eller, endnu værre, terrorister. Anthropics svar på dette problem har været at arbejde endnu hårdere på at udvikle kunstig intelligens, der kan levere ydelser, som offentligheden ikke bare kan affeje.
“Jeg er enig i, at offentligheden har et negativt syn på kunstig intelligens (og at dette er et stort problem), men jeg tror ikke, det primært skyldes, at jeg eller andre ledere inden for feltet advarer om risiciene ved teknologien,” skrev Anthropics administrerende direktør, Dario Amodei, på Twitter i sidste måned. “Jeg mener, at der grundlæggende er tale om en tillidskrise… Jeg tror, at almindelige mennesker ikke stoler på virksomheder, regeringer eller tech-branchen, og at de altid mistænker os for at udtænke nye måder at snyde dem på.”
Mens Anthropic optrapper indsatsen for at overvåge modstand via interne efterretningsteams og AI-drevet sporing af protester i realtid, må virksomheden også forholde sig til den tiltagende økonomiske desperation, der præger mennesker uden for dens kontorbygninger i Bay Area. I sidste uge meddelte de sikkerhedsfolk, der patruljerer hos OpenAI og Anthropic, at de havde stemt for en strejke som følge af fastlåste lønforhandlinger. Som reaktion herpå sendte Anthropic en mail ud til alle medarbejdere, hvori de blev opfordret til at arbejde hjemmefra.
“Hvem kan klare sig for 22 dollars i timen i San Francisco?” spurgte David Huerta, formand for fagforeningen SEIU-USWW, der repræsenterer sikkerhedsfolk i Bay Area, ved en demonstration i sidste uge. Omkring ham råbte sikkerhedsfolkene i kor: “Skam jer.”
Hvis du vil se resultatet af at AI modellen TranslateGemma oversætter den engelsk artikel til dansk, så klik her. Der er små fejl og nogle “nye” ord i oversættelsen, men i det store og hele klare den det fint.
Til ovenstående oversættelse med AI modellen TranslateGemma er der benyttet den mindste model (4b / 3.3 GB). Resultatet bliver bedre og mere flydende tekst med de to større modeller (12b / 8,1 GB, 27b / 17 GB). Den største model var dog langsomme på min maskine, fordi den fylde (17 GB) mere end min GPUs RAM (12 GB) og derfor via IO bussen på bundkortet skal bruge den almindelige RAM (5 GB ud af 64 GB).
