Post Syndicated from Bozho original https://blog.bozho.net/blog/4508
Интересът към една много чувствителна дигитална тема набира скорост в последните седмици – т.нар. „чат контрол“ – проект на регламент на ЕС, с който всяко съобщение, което изпращаме, дори с криптирани приложения, ще бъде сканирано за материали, съдържащи сексуална експлоатация на деца (т.нар. CSAM).
Ще направя дълга ретроспекция и обяснение на техническите проблеми, но преди това трябва да заявя, че позицията и на позицията и на Да, България, и на колегите в коалиция е, че не трябва да бъдат реализирани инвазивни мерки спрямо личната кореспондеция, които създават предпоставки за масовото ѝ следене, и съответно предложението и в оригиналния му вид, и във вида, в който датското председателство го вижда, е неприемливо.
Дори без текстовете за криптираните приложение, регламентът прави сериозни крачки към повишаване на ефективността на борбата с разпространението на CSAM, така че в предстоящо заседание на Съвета на ЕС през есента, горещият въпрос ще бъде именно криптираните приложения – по останалото по-скоро има консенсус, защото е безспорно, че трябва по-сериозно и ефективно противодействие на такива престъпления. Затова останалите текстове в регламента трябва да бъдат подкрепени.
Първоначално това предложение включваше възможност за изпращане на снимките централно към европейско звено за тяхното сканиране. Това беше посрещнато с бурно неодобрение, тъй като на практика елиминира криптирането от край до край – ако всяко съобщение, съдържащо снимка или линк бъде изпращано някъде, това на практика елиминира криптирането.
Затова при предходно председателство на Съвета на ЕС имаше работно предложение за ограничаване на тази мярка само до вече известно съдържание (CSAM) и сканирането на да се извършва само на устройството, преди криптиране, без да се изпраща никъде. Това на пръв поглед звучеше по-разумно, защото отдалечаваше предложението от масовото следене. Дори, на пръв поглед, изглеждаше, че може да се приложи и изкуствен интелект на самото устройство. Тогава направих такова допускане, с уговорката за внимателен анализ.
Само че, когато човек направи такъв внимателен анализ, става ясно, че и това е едновременно и опасно, и не особено полезно за постигане на целта. Ще изредя няколко детайла:
1. Организираните престъпни групи, които се занимават с разпространение на CSAM, просто ще започнат да използват свои приложения, които, благодарение на друг регламент на ЕС (DMA) ще могат да заредят в телефоните си, без те да отговарят на новите изисквания. Т.е. защитата на личната кореспонденция на обикновените хора ще бъде отслабена и ще бъдат създадени рискове за масово наблюдение и злоупотреби, а престъпните групи ще го заобикалят.
2. В момента няма технология, с която по работещ начин да се реализира желанието на датското председателство и на ЕК – алгоритмните за т.нар. perceptual hashing не са правени с цел защита от злонамерени модификации, т.е. с малко визуални ефекти и трансформации на снимките, те ще останат неразпознати. Също така, както тези алгоритми, така и моделите за изкуствен интелект, които биха работили на крайните устройства, дават фалшиво-позитивни резултати, което рискува наводняване на правоохранителните органи с напълно законни снимки. За да може да бъде въведена регулаторно такава технология, тя трябва да отговаря на всички тези (и други) предизвикателства – нямаме право затворени, експериментални технологии да бъдат част от нормативната уредба, още повече, когато се засягат основни конституционни права.
3. Технологията (ако евентуално някой ден бъде създадена достатъчно добра такава) трябва да е с отворен код, а ако ползва AI – да е с отворен модел и много ясен и прозрачен процес за одит на данните за трениране. Също така, централната база данни трябва да е обект на много строги процедури за подаване и проверка на съдържание, защото в противен случай държава членка с ниско ниво на върховенство на правото може да подава и друго съдържание, вкл. политическо такова, което иска да следи и цензурира. Примерът от миналото лято със свалянето на сатиричния сайт на „Ново начало“ е само индикация за това как може да се злоупотребява. Припомням, че тогава сайтът се появи в списъци на компании за киберсигурност като „съдържание за възрастни“ и беше блокирано в мрежи, където софтуер на тези компании беше инсталиран – тогава това вероятно беше направено от частни подизпълнители на Пеевски, но разлика в подхода няма.
Това са само част от аргументите защо предложението е недообмислено. Нужен е много по-дълъг дебат по темата и много повече научни статии, изследващи и развиващи технологичната готовност за такива подходи. Добрата новина е, че много държави все още се колебаят, а сред тях е Германия, и съответно няма мнозинство в Съвета, а мандатът на Европейския парламент е срещу такъв тип инвазивни промени.
Когато има легитимна критика към ЕС, тя е, че такъв тип регулации са възможни. Но отговорът на тази критика е, че явно държавите-членки държат на гаранциите за лична свобода и че в сериозен дебат в рамките на целия Европейски съюз могат да бъдат спирани оруеловските мерки и да бъдат намирани работещи решения вместо добре звучащи, но неработещи технологични регулации.
Материалът Позиция относно европейския регламент за т.нар. „чат контрол“ е публикуван за пръв път на БЛОГодаря.
