Генериран от изкуствен интелект дълбок фалшификат на лицето и гласа на китайската актриса Wen Zhengrong беше използван от безскрупулни търговци, за да се представят за нея при продажби на живо, което предизвика засилени призиви за по-строги и по-специализирани регулации и наказания от страна на интернет платформите и закона.
Откритието беше направено миналата седмица, когато изглеждаше, че Уен едновременно е домакин на три различни стаи за предаване на живо рано сутрин в социалните медии, носейки различни тоалети и рекламирайки различни продукти. „Клонингите“ на Уен изглеждаха и звучаха поразително подобно на Уен, постижение, което бързо разпали онлайн дискусия.
Според доклад на China Media Group от сряда фалшивите изображения са произведени или чрез изрязване на предишни видеоклипове и екранни записи, или чрез заснемане на по-ранни кадри на живо на Уен и пускането им чрез базиран на AI дълбок синтез, включително промяна на гласа.
„Тези тактики на ИИ объркват обществеността. Моят образ и подобие са нарушени и това е дълбоко обидно“, каза Уен във видеорепортажа. Тя добави, че ако зрителите, които й се доверяват, бъдат подведени да купуват фалшиви стоки, „ще се почувствам наистина тъжна“.
Ли Я, партньор в адвокатската кантора Zhongwen в Пекин, каза пред China Daily, че такова поведение се подозира в нарушаване на правото на портрет на Уен и може също да навреди на правото й на репутация.
Използването на нечие изображение за печалба без разрешение нарушава правата върху портрета, каза той. „Ако продавачите говорят от нейно име и правят неверни или преувеличени твърдения, това ще се отрази негативно на репутацията на публична личност.“
Екипът на Уен каза, че след като фалшивите клипове започнаха да циркулират, те подадоха доклади денонощно, отбелязвайки около 50 акаунта за имитация за един ден, според CMG.
Някои акаунти за предаване на живо бяха премахнати, казаха те, но други бързо се появиха отново в нови форми. Персоналът на Уен отбеляза, че някои търговци могат да измислят съдържание, като извличат кратки кадри и разчитат на AI функции, вградени в приложенията за редактиране на видео, докато екипът е изправен пред много по-голяма тежест да запази доказателства и да защити правата си.
Ли каза, че е нереалистично да се очаква жертвите сами да защитят правата си.
„Търговците, които нарушават правилата, могат да отварят нови акаунти по желание и да не поемат почти никакви разходи за нарушение“, добави той.
Той отбеляза, че социалните платформи имат задължението да разгръщат технология, за да открият дали инструментите за изкуствен интелект се използват неправилно в предавания на живо или кратки видеоклипове и да санкционират нарушителните акаунти, както и оперативните компании и екипи зад тях, за да се предотврати увреждане на трети страни.
През септември влязоха в сила нови разпоредби за етикетиране на генерирано от AI синтетично съдържание, публикувани от администрацията на Киберпространството на Китай и други агенции. Правилата изискват ясни етикети „генерирани от AI“ върху синтетични лица и видеоклипове.
На практика обаче някои търговци крият етикети на неясни места или ги маскират, което позволява на нарушенията да се промъкнат през прегледите от социалните платформи.
„Ако на видеоклип липсва необходимото разрешение и не показва етикет за поколение AI, използването на лице или глас на някой друг в поток на живо е обикновен случай на нарушение“, каза Ли. „Жертвите могат да съдят търговеца и дори платформата, която носи отговорност за поддържането на онлайн поръчката.“
В четвъртък центърът за безопасност и доверие в електронната търговия на Douyin заяви в официалния си социален акаунт, че е стартирал специална кампания през октомври, насочена срещу нарушения. Те включват случаи, при които търговци или създатели на съдържание, без разрешение, сглобяват видеоклипове, смесват текст или използват AI и цифрови ефекти, за да имитират знаменитости за продажби. Отговорът на платформата за кратко видео на тези действия включва прекъсване на предавания на живо, премахване или забрана на участващи продукти, замразяване на приходите от транзакции и разпореждане за спиране на бизнеса, се казва в съобщението.
От началото на кампанията платформата е действала срещу 11 000 акаунта на създатели, замесени в имитация, и е свалила повече от 6700 продукта, се казва в съобщението. Освен това бяха премахнати повече от 10 000 видеоклипа в нарушение, фалшифициращи образа и гласа на Уен за маркетинг.
Ли Лианг, заместник-президент на Douyin Group, каза в своя сметка в четвъртък, че подобно представяне с участието на ИИ „сериозно подкопава доверието в създателите, търговците и платформата в очите на потребителите и противоречи на нашите дългосрочни интереси“.
Ли отрече, че предаванията на живо, представящи Уен, са се провеждали на Douyin, добавяйки, че откриването на нарушения на съдържание с изкуствен интелект е „предизвикателство за цялата индустрия и злонамерените имитатори постоянно участват в техническа битка с котка и мишка с платформи“.
„Ние ще продължим да инвестираме, за да отговорим на предизвикателството и да защитим законните права на създателите, търговците и потребителите“, каза той.
Ли Вей, заместник-декан на Факултета по нови медии в Пекинския университет, каза, че дълбоките фалшификати с активиран AI са „най-типичният капан“ в производството на съдържание с помощта на AI, включващ нарушения, авторски права, етика и онлайн злоупотреба със сериозни последствия.
Тя призова за по-систематично управление на киберпространството с множество заинтересовани страни, особено за по-силни правни гаранции и надзор на платформите, и призова за по-специализирани инструменти за наказания за ограничаване на подобни практики.
[email protected]
Нашия източник е Българо-Китайска Търговско-промишлена палaта