A deepfake egy mesterséges intelligencia által létrehozott technológia, amely képes hihetetlenül élethű, de hamis videókat és képeket készíteni. A név a „deep learning” (mint mélytanulás) és a „fake” (hamis) szavak kombinációjából ered. Ezzel a módszerrel valakinek a külső megjelenése és hangja manipulálható, így olyan dolgokat mondhat vagy tehet egy videóban, amelyeket valójában sosem mondott vagy tett. Még mindig vannak azért jelek, amiből kiszúrható, ha egy videó nem valódi, de egyre nehezebb ez a feladat.
És sajnálatos módon jelenleg a deepfake leggyakoribb felhasználási esetei nem igazán az emberiség jólétét szolgálják. Politikusnak, híres embereknek adnak a szájába sosem mondott szavakat, meztelen fotókat, erotikus videókat készítenek sztárokról és ismert személyekről, de még lehetne sorolni. Most viszont egy újabb lehetséges hasznos felhasználási eset bukkant fel.
Szakértők szerint nem biztos, hogy csak jó eredménye lesz a deepfake videó ilyen felhasználásának
Egy közúti konfliktus áldozatának mesterséges intelligencia által generált deepfake-je saját maga beszélt a bíróságon a vádlott ítélethirdetési meghallgatásán. Az amerikai hírműsorokon végigfutó hír szerint valószínűleg ez az első alkalom, hogy a technológiát ilyen módon alkalmazták. Az amerikai Maricopa megyei ügyészség szóvivője szerint az áldozat, Christopher Pelkey deepfake változatának felhasználási ötlete a családjától származott. Pelkey nővére elmondta, hogy két éven át írta az áldozati hatásnyilatkozatot, de úgy találta, hogy amit mondani akart, nem szolgáltat elég igazságot a férfi emlékének. Pelkeyt 2021-ben lőtték le egy közúti incidens során.
Mivel azonban a testvér nem volt elégedett azzal, hogy ő maga olvassa fel a nyilatkozatot, így született meg az ötlet, hogy hozzanak be egy deepfake karaktert. Pelkey nővére írta meg a szöveget, és a CNN-nek azt mondta, biztos volt benne, hogy testvére azt mondaná, amit ő írt. Todd Lang, a Maricopa megyei felsőbíróság bírója jóváhagyta az ötletet, és a család lejátszotta a bíróságon a mesterséges intelligencia által generált videót.
A videóban az áldozat deepfake-je enyhébb ítéletet kért a gyilkosának elítélésekor. A vádlottat az év elején ítélték el emberölésért és veszélyeztetésért. A videóban azt üzente gyilkosának, Gabriel Horcasitasnak, hogy sajnálja, hogy ilyen körülmények között találkoztak. Egy másik életben szerinte ugyanis barátok lettek volna. A bíró azonban így is a maximális, több mint 10 év börtönbüntetést szabta ki. Azt mondta a deepfake videóról, hogy szerinte az ott elhangzottak tükrözik azt a jellemet, amit hallott az áldozat személyéről. A védelem viszont arról beszélt, hogy az AI generált videó bemutatása erős fellebbviteli kérdést teremt.
Mert bár a bíróknak természetesen van mozgástere arra, hogy mit hallgassanak meg, különösen az áldozatoktól, egy fellebbviteli bíróságnak kell majd eldöntenie, hogy ez a mostani hiba volt-e. Az ügyet egyébként már újratárgyalták eljárási kérdések miatt. Egy jogi szakértő szerint a mostani eset ténylegesen felvet kérdéseket a most kialakult precedens miatt. És szerinte ez veszélyes talaj is lehet.
