Интернет вече предлага всичко, което един човек може да желае. Онлайн пространството от години е основно средство за комуникация и запознанства за огромен брой хора по целия свят. Може ли обаче човек да е сигурен, че снимките, които вижда в профилите на различни хора, са истински? Никак. Особено сега, когато изкуственият интелект може да създава все по-реалистични кадри, които затрудняват дори експертите.
Онлайн вселената вече изобилства от леснодостъпни и дори безплатни „генератори на фалшиви лица“. С един клик те могат да създадат реалистични снимки на хора, които всъщност не съществуват. А с малко усилия и комбиниране на различни програми може да се създаде не само един кадър на фалшив човек, но цял онлайн персонаж.
С кого говорим?
Онлайн изданието Ars Тechnica е провело експеримент, като е използвало изкуствен интелект, за да генерира несъществуващ човек. Той е наречен Джон, като с помощта на умния алгоритъм са направени 7 базови негови изображения.
Въпросните кадри са били достатъчни за друг изкуствен интелект (AI), който използва лицето на Джон, за да генерира негови снимки в различни ситуации. Резултатът е един изцяло несъществуващ, но напълно реалистичен онлайн човек. Той има свой живот, ходи на пътешествия, има хобита и професия. Изданието посочва, че е използвало генераторите Stable Diffusion и техниката Dreambooth, за да създаде основните изображения на Джон.
Технологията позволява пълен контрол над „живота“ на аватара. Той може да бъде показван на работа, с приятели, както и на футуристични места, на далечни планети или пък в исторически събития. Комбинацията от различни AI модели дава практически неограничени възможности за създаване на всякакви изображения и ситуации. Така създаването на фалшиви онлайн персони е доста лесно и те могат да се използват за всичко.
Още рискове
Абсолютно същата технология може да се приложи и с реални хора. Нужно е само зложелател да се сдобие с десетина снимки на жертвата си, което в ерата на социалните мрежи е много лесно. След това може да използва същите алгоритми, за да създаде всякакви ситуации и компромати за нея.
Някои пък го използват, за да изградят свой фалшив имидж. Режисьорът Кайл Ворбах обяви наскоро, че е използвал Stable Diffusion, за да си създаде напълно фалшиво ежедневие за един цял месец.
През октомври т.г. той е искал да публикува своя нова профилна снимка, но не успял да си хареса нито една. Решил да пробва с изкуствения интелект и резултатът го изненадал. Изучил програмата по-добре и направил поредица фалшиви снимки, които качвал в социалните мрежи, включително и такива, в които се среща с известни личности като актьора Раян Гослинг.
Липсата на човешкия допир
Ворбах споделя пред изданието PetaPixel, че макар снимките да са били реалистични и дори по-красиви отколкото е правил с фотоапарата си, нещо в тях липсвало. „Въпреки че излъгах успешно всички, които познавам, снимките ми получаваха все по-малко харесвания. Осъзнах, че ако не знаеш, че снимките ми са фалшиви, те просто изглеждат невероятно скучни“, казва той.
Това създава опасна ситуация, допълва Ворбах. В търсене на повече харесвания, той започва да прекарва часове в преглеждане на хилядите генерирани изображения, за да избере най-добрите и да създаде фалшивия си онлайн живот. „Накрая дори не знаех как изглеждам… Всяко харесване на тези снимки обаче ми носеше ендорфин, сякаш бях наистина аз и някой е харесал моя истинска снимка.“, допълва той.
Въпреки това усилията не си заслужават. Липсата на човешкия допир си остава, а при внимателно вглеждане в кадрите могат да се открият индикации, че не са истински. Освен това времето, прекарано за генериране и избиране на снимките, както и усилията, са същите и дори повече, отколкото просто човек да живее своя живот дори и той да не е чак толкова бляскав като във фалшивите кадри.
Регулациите са неизбежни
Много платформи и онлайн услуги вече забраниха разпространението на такива кадри. Някои от тях забраниха и използването на вече споделеното в тях съдържание за създаване на други фалшиви кадри. Разбира се, това няма да спре злонамерените хора и намерения.
Затова и самите институции вече работят в посока на въвеждане на регулации за подобен софтуер и изкуствен интелект. През януари 2023 г. в Китай ще влезе в сила специален закон в тази сфера. Той задължава всякакво съдържание, което е генерирано от изкуствен интелект, да бъде ясно маркирано като такова. Освен това компаниите, които предлагат такива услуги, ще са длъжни да изискват регистрация с лични данни на хората, които ще ги използват, за да може да се търси конкретна отговорност, ако се наложи.
Stable Diffusion вече включва такива водни знаци в създаденото от него съдържание, но тъй като е с отворен код, има как те да бъдат премахнати. Има и защитни мерки, например PhotoGuard на Масачузетския технологичен институт. Тази платформа добавя „невидими“ манипулации в реалните снимки, за да затрудни изкуствения интелект да ги анализира и редактира.
Не всичко е лошо
Генерирането на изображения, видео и друго съдържание от изкуственият интелект не е нещо лошо по замисъл. То придоби негативна слава заради т.нар. дийп фейкове, които се използват за създаване на фалшиви клипове, поставящи хора в компрометиращи ситуации.
С течение на времето обаче хората неизбежно ще свикнат и с този риск на онлайн пространството. В комбинация с регулациите и развитието на технологии за анализи и защита, генерирането на фалшиво съдържание ще позагуби своята сила на манипулатор.
Този тип съдържание може да се използва предимно за по-положителни дейности. Например за творчески проекти, за още по-реалистични филми и анимации. Възможностите са много и са ограничени единствено и само от творчеството и намеренията на човека, който ги използва.
