Машинен превод и дезинформация – как се атакуват алгоритмите

Машинен превод и дезинформация се срещат на две места: в данните, от които системата се учи, и във входните текстове, които ѝ подаваме. Научни публикации показват, че и двата пътя могат да изкривят превода на конкретна фраза, но публично доказана масова кампания, която да е променила Google Translate, няма (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021), arXiv (EPFL и Armasuisse S+T), MITRE ATLAS (чрез Startup Defense)). Това има значение за всеки, който чете чуждо изявление в автоматичен превод и го споделя като доказателство.

Източник: arXiv и MITRE ATLAS (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021), arXiv (EPFL и Armasuisse S+T), MITRE ATLAS (чрез Startup Defense))

Може ли масово съдържание в мрежата да промени превода?

Теоретично да, а на практика няма доказателство. Google описва, че Translate се учи от съществуващи преводи, които най-често се намират в мрежата (Google). Лабораторната работа на Уолъс и колегите показва какво следва оттук: малък набор специално подготвени примери кара модел да превежда определена фраза грешно, а примерите не съдържат самата фраза и не личат при преглед (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021)). Защитите, които публикацията предлага, струват точност или допълнителна ръчна проверка.

Границата е важна. Страницата на публикацията не посочва колко примера са нужни за превода; числото 50 в нея се отнася до друг експеримент, с анализ на настроенията (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021)). Берклийският случай в MITRE ATLAS пък описва атака върху действащи услуги, но през входа, не през отровено обучение (MITRE ATLAS (чрез Startup Defense)). Затова връзката „масово съдържание – променен превод в Google“ остава хипотеза, а не установен факт (Google).

Как работи атаката през входния текст?

Тя не изисква достъп до обучението, затова е по-пряка. Авторите на TransFool от EPFL променят изречението леко, така че преводът да се влоши, докато смисълът на оригинала остава близък (arXiv (EPFL и Armasuisse S+T)). В черна кутия, когато нападателят вижда само отговорите, методът постига 63,27–70,19% успех срещу mBART50 с около 23 до 36 заявки.

Случаят от Бъркли показва същата логика в по-практичен вид. Изследователите изграждат копие на модела през публичния интерфейс, подготвят върху него входове и ги пускат срещу истинските услуги (MITRE ATLAS (чрез Startup Defense)). Резултатът са подменени думи, вулгарен превод и изпуснати изречения в Google Translate и Systran. Двата труда се допълват: първият измерва успеха, вторият показва, че подходът работи срещу търговски услуги, макар страницата да не дава дата и да не описва защити (arXiv (EPFL и Armasuisse S+T)).

Какво се промени с Gemini и какво казва Google за сигурността?

От декември 2025 г. Google поставя Gemini в основата на превода на текст, първоначално за английски и близо 20 други езика, започвайки от САЩ и Индия (Google). Целта е по-добро предаване на идиоми и разговорни изрази, а единствената декларирана оценка на качеството е бенчмаркът WMT25. Нито този пост, нито текстът за петте нови езика говори за защита срещу манипулирано съдържание (Google). Публична политика на Google по този въпрос не открихме, но това не значи, че защити няма – само че не можем да ги проверим.

Новият модел носи нов вид риск. Според The Decoder, ако под китайски текст се добави инструкция на английски, преводачът понякога отговаря на нея вместо да преведе (The Decoder). Находката е на потребител, не е рецензирано изследване, а в материала няма отговор от Google. Това е инжектиране на команда, различно от отравянето на данни и от подвеждащия вход, и трите механизма не бива да се смесват (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021), arXiv (EPFL и Armasuisse S+T)).

Защо малките езици са по-уязвими?

Google признава, че езиците с малко съдържание в мрежата се превеждат традиционно по-трудно (Google). Отровените примери от лабораторията на Уолъс действат, защото моделът има да научи една фраза от малко пример (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021)). От двете страни се стига до наш извод, който го няма в нито един източник: там, където подходящи преводи са малко, един организиран източник тежи повече, защото няма с какво да бъде уравновесен. Българският е по-добре представен от езиците в петте нови добавки, но за него публично измерване няма.

Как да четем автоматичен превод на политически текст?

Рискът е в точните места: цитат, число, име, отрицание. Лабораторните атаки засягат именно една фраза, една дума или едно пропуснато изречение (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021), MITRE ATLAS (чрез Startup Defense)). Затова превод на изявление е добре да се сверява с оригинала и с втори превод от друга услуга, защото преносът на атаки между модели е само частичен (arXiv (EPFL и Armasuisse S+T)).

Ако институцията е публикувала официален текст, той има предимство пред всеки машинен превод. Видео или публикация, която претендира да е от определено място и време, се проверява отделно – начините са описани в материала за разпознаването на дезинформация. Когато платформата разпространява подвеждащ превод, правата на потребителя са в текста за Акта за цифровите услуги.

Какво остава неизвестно

Няма публично измерване колко често реални услуги дават изкривен превод заради злонамерено съдържание. Изследванията показват възможност, но не честота (arXiv (Уолъс, Жао, Фън, Сингх; NAACL 2021), arXiv (EPFL и Armasuisse S+T), MITRE ATLAS (чрез Startup Defense)), а Google не е публикувал такива данни в проверените страници (Google).

Неясно е и колко от рисковете на по-старите системи се пренасят към Gemini. Google не разкрива точния модел зад Translate, а твърденията за него в медиите не са потвърдени (Google, The Decoder). Докато това не се уточни, автоматичният превод е чернова, не документ.