Minst ti amerikanske kommuner og politimyndigheter har siden sommeren begynt å begrense eller avslutte bruken av Flock Safetys overvåkingsteknologi. Motstanden kommer samtidig med en bredere uro rundt den raske innføringen av avansert kunstig intelligens, blant annet i datasentre, ansiktsgjenkjenning og andre KI-systemer.

Flock, som ble grunnlagt i 2017, selger overvåkingsprogramvare og utstyr. Produktene omfatter automatiske skiltgjenkjenningskameraer, droner og enheter for kantprosessering med mikrofoner som registrerer skudd og andre lyder. Selskapet opplyser at verktøyene kan bidra til å oppklare kriminalitet, finne savnede personer og stjålne biler. Det er installert mer enn 100 000 Flock-kameraer i USA.

Flere kommuner avslutter avtalene

De siste tre månedene har Monroe i Ohio, Newburgh i New York, Richmond i Virginia, Hopkinton og New Bedford i Massachusetts samt Lansing i Michigan besluttet å avslutte avtalene med Flock. Politiet i East Bridgewater og Grafton i Massachusetts har varslet planer om å avslutte bruken av Flock-kameraer.

Denne uken stemte innbyggerne i League City i Texas mot at politiet skulle fortsette å bruke Flocks skiltgjenkjenningskameraer. Kameraene skal demonteres.

Bekymringene varierer fra sted til sted. De handler både om personvern, hvem dataene deles med og hvordan de brukes, samt om kommunenes innkjøpsprosesser. I Asheville i North Carolina mistet politiet tilgangen til Flock-systemet etter at byen i august stemte for å avslutte avtalen. I El Paso County i Colorado kunngjorde sheriffkontoret i september at det ville slutte å bruke Flock-kameraer.

Sheriff Joseph Roibal sa i en pressemelding at beslutningen var riktig for fylket.

«Vi har verktøyene, opplæringen og erfaringen som trengs for å finne og pågripe kriminelle uten å være avhengige av Flock-kameraer», sa Roibal.

Personvern og misbruk av systemene

Tatjana Raisa, som er juridisk direktør for personvern i organisasjonen The Future of Privacy Forum, mener motstanden mot Flock-teknologien ikke er overraskende. Hun sier den gjenspeiler en «økende skepsis i befolkningen til teknologi».

Ifølge Raisa har Flock blitt et særlig synlig mål for kritikk fordi folk kan se sensorene og kameraene når de beveger seg rundt på veiene.

«Et kamera ved enden av gaten din er håndgripelig på en måte som den daglige delingen og salget av personopplysninger på nettet ikke er», sa Raisa.

Hun sammenligner reaksjonene med motstanden mot datasentre, som også har blitt et fysisk symbol på misnøye med ny teknologi. På delstatsnivå forbød Florida i sommer skiltgjenkjenningskameraer på delstatens hovedveier, mens Texas stanset delstatsfinansiering av Flock-systemer. Også disse beslutningene var knyttet til bekymringer om personvern og mulig misbruk av teknologien.

Det finnes dokumenterte eksempler på slik misbruk. I august ble en politibetjent i Brentwood i Missouri tiltalt for å ha brukt Flock-kameraer til å følge sin tidligere kone under skilsmissen. I september ble en politibetjent fra østlige Texas dømt til fengsel for å ha brukt Flock til å spore sin tidligere kjæreste og familien hennes.

Bekymring for tilgang til immigrasjonsdata

Et annet spørsmål som diskuteres stadig oftere, er immigrasjonsmyndighetenes tilgang til Flock-teknologien. Saken i Ithaca i delstaten New York har gjort problemstillingen særlig tydelig. I mars vedtok byen en resolusjon om å avslutte avtalen med Flock Group.

I resolusjonen viste byen til «beviste tilfeller der føderale agenter har brukt Flock Safetys infrastruktur til å innhente informasjon, selv uten særskilt tillatelse fra kommunen som hadde inngått avtalen».

Ithaca viste også til rapporter om at Flock, «med vilje eller på grunn av uaktsomhet», skal ha gjort det mulig for USAs immigrasjons- og tollmyndighet ICE og føderale våpen- og eksplosivmyndigheter, ATF, å bruke treff fra delstatlige og lokale databaser med automatiske skiltlesere. Opplysningene skal ha blitt brukt til å etterforske og forfølge innvandrere over hele USA.

Flock avviser anklagene. Selskapet sier at politimyndigheter over hele landet bruker teknologien daglig til å oppklare alvorlig kriminalitet, finne mistenkte og savnede personer og styrke sikkerheten.

«Vi respekterer hver enkelt kommunes beslutning, men å fjerne et verktøy som aktivt bidrar til å oppklare voldelig kriminalitet og beskytte lokalsamfunn, svekker den offentlige sikkerheten. Hver Flock-kunde eier dataene sine og kontrollerer hvem de deles med og hvordan de kan brukes. Flock selger ikke data og har ingen avtale med ICE», opplyste selskapet.

I august kunngjorde Flock at standard lagringstid for data hos nye kunder skulle reduseres fra 30 dager til sju dager. Selskapet opplyste også at myndigheter fremover må oppgi en saksreferanse før de søker i databasen.

Lokale vedtak og begrenset innsyn

Diskusjonen om Flock minner på flere måter om striden rundt datasentre. Mange byer tok i bruk Flock-systemene for bare noen år siden, og innbyggerne visste kanskje ikke at kameraene ble satt opp, sier Adam Schwartz, jurist for digitalt personvern i Electronic Frontier Foundation. Den ideelle organisasjonen har tidligere undersøkt Flocks virksomhet.

Ifølge Schwartz beslutter politimyndigheter ofte å ta i bruk Flock på egen hånd, med begrenset tilsyn fra byråd eller kommunestyrer. I South Windsor i Connecticut begynte Flock-kameraer ifølge lokale medier å fungere i fjor uten offentlig kunngjøring eller avstemning. I oktober stemte byen for å demontere kameraene.

«Lokale aktivister over hele landet krever at byråd bruker innkjøpsmyndigheten sin til å slutte å betale for automatiske skiltlesere», sa Schwartz. Han la til at aktivistene har kjempet i flere år, og at «mange byråd lytter».

Det viktigste argumentet for Flock og tilsvarende teknologi er at systemene kan bidra til å bekjempe kriminalitet og gjøre nabolag tryggere. Mange kommuner avslutter derfor ikke bruken. I stedet innfører de begrensninger eller undersøker alternative leverandører.

Cleveland i Ohio stemte for å forlenge Flock-avtalen i sommer, men begynte samtidig å begrense søk knyttet til immigrasjon. Byen ga også bare Cleveland-politiet tilgang til databasen. Tilgangen ble fjernet for Northeast Ohio Regional Fusion Center, et organ for etterretningssamarbeid som i utgangspunktet hadde fått tilgang.

«De brukes og er nødvendige i etterforskning», opplyste byen som svar på spørsmål. «Departementet for offentlig sikkerhet vurderer for tiden svarene på en forespørsel som er sendt til andre leverandører som tilbyr samme teknologi som Flock.»

Blir en politisk strid

Raisa mener lokalsamfunnene ønsker større innflytelse over avveiningen mellom nytte og risiko.

«Disse verktøyene kan gi betydelige gevinster for den offentlige sikkerheten, men lokalsamfunnene ønsker tydelig å forsikre seg om at gevinstene ikke oppnås på bekostning av sivile rettigheter», sa Raisa.

Hun anslår at overvåkingsteknologi også fremover vil være et politisk brennbart tema, ettersom Demokratene nå kontrollerer Kongressen.

I september sa president Donald Trump at han liker Flock-teknologien «på grunn av politiet og andre rettshåndhevende myndigheter». En Reuters-måling samme måned viste samtidig at flere amerikanere er negative enn positive til teknologien.

Samme måned la den republikanske kongressrepresentanten Thomas Massie fra Kentucky frem lovforslaget Flock-Off Act. Forslaget vil forby bruk av føderale midler til «Flock-lignende overvåking» og innføre andre beskyttelsestiltak. I oktober la senator Bernie Sanders fra Vermont, kongressrepresentant Alexandria Ocasio-Cortez fra New York og senator Jeff Merkley fra Oregon frem Ban Flock Act. Målet med lovforslaget er å stanse «spredningen av KI-drevne overvåkingskameraer».