IBM dropper at sælge generel software til ansigtsgenkendelse

Foto : Trismegist8 / Bigstock

IBM dropper at sælge generel software til ansigtsgenkendelse

Formuleringer i IBM's brev til USA's Kongres vækker skepsis.

IBM vil ikke længere tilbyde IBM-software til ansigtsgenkendelse eller –analyse, og man vil heller ikke forske i eller udvikle teknologien fremover.

Det skriver it-virksomhedens CEO Arvind Krishna i et brev til USA's Kongres, som først blev rapporteret af CNBC

»IBM no longer offers general purpose IBM facial recognition or analysis software. IBM firmly opposes and will not condone uses of any technology, including facial recognition technology offered by other vendors, for mass surveillance, racial profiling, violations of basic human rights and freedoms, or any purpose which is not consistent with our values and Principles of Trust and Transparency,« skriver Arvind Krishna, CEO hos IBM, i et brev til kongressen i USA.

Til The Verge oplyser IBM, at selskabet ikke længere vil forske i eller udvikle teknologien. Dette er dog ikke en del af brevet fra topchefen. 

IBM's udmelding kommer efter to uger med demonstrationer i USA mod racisme og politibrutalitet. I brevet bakker Arvind Krishna op om reformer af landets politi, så betjente kan holdes ansvarlige for at bruge magt. 

Ikke for et forbud

Allerede i november udgav IBM en blog, der taler for at holde leverandører ansvarlige for måden, som deres teknologi bliver brugt på: 

»Providers of facial recognition technology must be accountable for ensuring they don’t facilitate human rights abuses by deploying technologies such as facial matching in regimes known for human rights violations,« skrev selskabet Chief Policy Officer, Christina Montgomery ved den lejlighed. 

Men både dengang som nu taler IBM ikke for et direkte forbud mod teknologien - heller ikke til brug for politiet. 

I stedet skriver Krishna, at tiden er inde til »a national dialogue on whether and how facial recognition technology should be employed by domestic law enforcement agencies«, og hvis ordensmagten bruger teknologien, skal den være testet for bias. 

»Artificial Intelligence is a powerful tool that can help law enforcement keep citizens safe,« skriver Krishna. 

Skepsis og begejstring

IBM's udmelding vækkede begejstring - blanct andet hos Damien Patrick Williams, ph.d.-studerende ved Virginia Tech. 

»Arguably THE biggest, longest lasting name in Facial Rec said "No, we won't do it, it's bad." That's huge,« skriver han på Twitter

Omvendt bliver brevet mødt med skepsis fra Yoav Goldberg, der er professor i Datalogi ved Bar Ilan University samt Research Director ved den israelske gren af Allen Institute for Artificial Intelligence. 

Goldberg påpeger, at formuleringen i brevet - »IBM no longer offers genereal purpose IBM facial recognition or analysis software« - ikke udelukker salg af custom software, samt software fra tredjeparter.  

Samme bekymring kommer fra Eva Blum-Dumontet, der er Senior Research Officer ved Privacy International. 

»IBM are trying to redeem themselves because they have been instrumental in developing the technical capabilities of the police through the development of so-called smart policing techniques. But let's not be fooled by their latest move,« siger hun til BBC

»First of all, their announcement was ambiguous. They talk about ending 'general purpose' facial recognition, which makes me think it will not be the end of facial recognition for IBM, it will just be customised in the future.«