A Chat Controlnak elnevezett javaslat az Európai Bizottság szerint a gyermekekre veszélyt jelentő szexuális zaklatás esélyének a csökkentését hivatott szorgalmazni. Azonban egy nemrég kiszivárgott dokumentum szerint a bizottság elismerte, hogy az eszköz nem lesz tökéletes, és nagymennyiségű hibás találatot eredményezhet.
A kiszivárgott jelentés szerint a mesterséges intelligencia (AI), amelyet az uniós szerv a magánbeszélgetések tömeges megfigyelésére tervez használni, várhatóan az esetek 10%-ában tévesen jelzi a tartalmakat.
„A szexuális visszaélést felismerő technológia pontossága 90% körüli. Ez annyit jelent, hogy a rendszer által felismert 10 találatból 9 jelent valódi zaklatást.” – olvasható a kiszivárgott dokumentumban.
A jelenlegi Chat Controllal kapcsolatos tervek szerint a privát csevegéseket, üzeneteket és emaileket automatikusan át fogja vizsgálni az AI gyanús tartalmakat keresve. Amennyiben a mesterséges intelligencia egy ilyen tartalmat talál, azt feljegyzi, majd egy uniós szerv nyomozóinak küldi azt. A nyomozók ezt követően megvizsgálják a gyanús tartalmat, azonosítják a téves eredményeket, és az illegális üzeneteket továbbítják az Europolnak és más illetékes bűnüldöző hatóságoknak.
Bár a bűnüldöző szervek nem rendelkeznek közvetlen hozzáféréssel a gyanús tartalmakhoz, a kiszivárgott információk szerint az Europol lesz a központ egyik legfontosabb partnere, amellyel a szoros együttműködés elengedhetetlen lesz.
Patrick Breyer, aki az Európai Parlament német tagja arra figyelmeztetett, hogy a 10%-os hibaarány alapján valószínűsíthető, hogy évente több mint 3 millió üzenet és fénykép kerülne a nyomozók elé tévesen. Továbbá jelezte, hogy ez a 10% túl alacsony, ennél magasabb érték is elképzelhető.
„A nem angol nyelvű üzeneteknél sokkal több hiba várható. Emellett a svájci szövetségi rendőrség szerint az eltűnt és kizsákmányolt gyerekekért központba érkező gépi jelentések 86%-a büntetőjogi szempontból irrelevánsnak minősíthető.” – mondta Breyer.
Ez azt jelentené, hogy több millió privát tartalmat, például valakinek a gyermekeiről vagy unokáiról készült fotóját a strandon, vagy szimplán a barátokkal folytatott magánbeszélgetését jelölné meg gyanúsnak a rendszer, és kerülnének a nyomozóirodákhoz.
A vállalatokat is bevonnák a rendszerbe
Az EB nemcsak azt ismerte el, hogy 10%-os hibaarány várható, hanem azt is, hogy a titkosítás a Chat Control hatálya alá tartozik. Ebből kifolyólag a vállalatoknak meg kell majd felelniük a követelmények teljesítése érdekében. A gyakorlatban ez az ügyféloldali szkennelési technológiára utal, amely lényegében megtöri a csevegőalkalmazások végponttól végpontig tartó titkosítását azáltal, hogy az üzenetek tartalmát még a titkosítás előtt átvizsgálja.
A dokumentum szerint a vállalatoknak csak akkor nem kell kötelezniük magukat, hogy szolgáltatásaikkal tömeges megfigyelést alkalmazzanak, ha korhatárt szabnak az applikációik használatára, vagy ha megakadályozzák, hogy a felhasználókkal ismeretlenek közvetlenül kapcsolatba lépjenek.
„Az EU bürokratái komolyan azt akarják, hogy a 17 éveseket vagy teljesen zárják el a 18 évesek üzeneteitől, vagy fosszák meg őket minden magánéletüktől. Felháborító, hogy a digitális magánélet megszüntetését titkos tárgyalásokon próbálják elérni. Sürgősen a saját kezünkbe kell vennünk a digitális levelezés védelmét!” – jelentette ki Breyer.
