Генеративният изкуствен интелект от години поставя дилема: как да се разбере дали даден текст е написан от човек или машина. Сега Anthropic, компанията, стояща зад асистента Claude, предприе решителна крачка към прозрачността. От началото на август текстовете, генерирани от нейните модели, включват невидим воден знак - вид дигитален печат, който пътува със съдържанието, където и да бъде копирано или поставено. Тази мярка не е произволна: тя изпълнява задължението за спазване на Кодекса за добри практики за прозрачност на генерираното от изкуствен интелект съдържание, посочен в член 50(2) от Закона за изкуствения интелект на Европейския съюз.
Този закон, който влезе в сила на 2 август, изисква синтетичното съдържание да бъде разпознаваемо, за да се предотврати подвеждаща или манипулативна употреба. Anthropic реши да направи още една крачка напред и да приложи този воден знак не само в Европа, но и във всички страни, където Claude е наличен. Съобщението беше направено официално чрез страницата за поддръжка, където е посочено, че водният знак е вграден в последователността от токени, издадени от модела, така че той остава дори ако текстът бъде копиран, експортиран или изпратен чрез API. Всичко подсказва, че тази инициатива ще отбележи повратна точка в индустрията, тъй като други големи технологични компании като OpenAI, Google, Meta, Microsoft и Mistral също са подписали Европейския кодекс за прозрачност, въпреки че все още не са внедрили подобни системи в такъв широк мащаб.
Ето как работи невидимата маркировка на Клод

Технологията, използвана от Anthropic, се основава на механизъм, който не променя значението, качеството или четимостта на текста. Марката се въвежда по време на генерирането на съдържание чрез лека промяна в подбора на думи, статистическо отклонение, незабележимо за човешкото око, но откриваемо с подходящите инструменти. Според компанията, марката се намира в самата последователност от токени и се предава, стига текстът да запази тази последователност непокътната, например, когато се копира и постави в друг документ, имейл или уебсайт. Тя може дори да оцелее при малки редакции, което е предимство пред други методи, които лесно се губят.
В допълнение към текстовото маркиране, Anthropic прилага цифрово подписани метаданни за произход към съвместими файлове, като PNG, JPG и SVG изображения. Тези метаданни следват стандарта C2PA, технология, която вече се използва от компании като Adobe, Google и OpenAI за проверка на произхода на цифрово съдържание. Това означава, че ако някой създаде изображение с Claude, файлът ще включва информация за неговия източник, което ще улесни откриването на deepfakes и други видове манипулация. Компанията потвърди, че работи по включването на тази функционалност в модели, пуснати преди 2 август, така че преходът ще бъде постепенен.
Важни ограничения и предупреждения
Въпреки че този воден знак представлява значителна крачка напред, Anthropic ясно е посочил ограниченията си. Откриването на водния знак не доказва, че Клод е оригиналният автор на текста , тъй като много хора използват изкуствен интелект за редактиране, превод, обобщаване или конвертиране на файлове. В такива случаи крайният резултат може да носи водния знак, дори ако основните идеи произхождат от друг източник. Обратно, липсата на воден знак в текст не означава непременно, че е написан от човек. Водният знак може да изчезне, ако съдържанието е било силно редактирано, е бил премахнат , е бил перифразиран, преведен на друг език или е бил смесен с други текстове. Той също така изчезва в много кратки пасажи, където водният знак няма достатъчно място, за да бъде вграден.
Тези предупреждения са от съществено значение, за да се избегнат фалшиви обвинения в плагиатство или злоупотреба с изкуствен интелект. Компанията обяви, че през следващите седмици ще пусне инструмент, който ще позволи на всеки потребител да провери дали даден текст носи водния знак на Клод. Това ще улесни проверката на произхода на съдържанието, въпреки че самата компания настоява, че този инструмент ще бъде улика, а не окончателно доказателство. Целта е да се помогне за идентифицирането на масово произвеждани текстове, използвани в дезинформационни кампании или за заливане на социалните медии с нискокачествено съдържание, феномен, който се разрасна драстично през последните години.
Реакции и контекст в индустрията
Решението на Anthropic не остана незабелязано в индустрията. Експерти по сигурност и поверителност сравниха тази технология с GUID идентификаторите, които Microsoft включи в документите на Office 97, които по-късно бяха използвани за проследяване на произхода на файловете и в някои случаи помогнаха за идентифицирането на създателя на вируса Melissa. Въпреки че Anthropic не свързва марката с личните данни на потребителите, аналогията служи като напомняне, че след като съществува невидим и постоянен дигитален отпечатък, е важно да се знае кой го контролира и докъде може да се простира използването му. Изследователят Иън Майърс, който работи по тази технология от 2024 г., посочи, че „идеята за чисто човешки текст е реликва“, тъй като става все по-трудно да се прави разлика между това, което човек пише, и това, което машина генерира.
В издателската индустрия тази мярка може да се окаже повратна точка. Наскоро роман, озаглавен „Обади ми се, ще скрия тялото“, беше почти публикуван от четиринадесет издателства, докато неговият агент не го оттегли поради опасения относно използването на изкуствен интелект. По подобен начин издателят Hachette оттегли романа на ужасите „Срамежливо момиче“ след обвинения, че съдържа пасажи, генерирани от изкуствен интелект. С водни знаци издателите, университетите и образователните институции ще имат допълнителен инструмент за проверка на авторството на текстове и предотвратяване на академични или литературни измами.
Накрая, заслужава да се отбележи, че тази мярка се отнася за всички продукти на Claude, включително Claude Code, Claude Cowork и Claude Tag , както и за модели, достъпни чрез облачни платформи като AWS, Google Cloud и Microsoft Foundry. Това гарантира, че всеки потребител, независимо от метода му на достъп, получава еднакво ниво на прозрачност. Въпреки че европейското законодателство изисква този вид маркиране, Anthropic е избрала да го внедри в световен мащаб, демонстрирайки ангажимента си към прозрачност и доверие в рамките на дигиталната екосистема. Компанията посочи, че потребителите няма да могат да деактивират тази функция, тъй като тя е неразделна част от модела, и че информация за това как да се открият маркировките ще бъде налична в центъра за поддръжка през следващите седмици. Несъмнено това представлява още една стъпка към по-отговорен и проверим изкуствен интелект.
Индекс

