Чим небезпечні віртуальні копії близьких людей, які вже не з нами?
Завдяки стрімкому розвитку ШІ людство наблизилося до реалізації фантазії про вічне життя. Сьогодні мало кого дивує концепція цифрового "воскресіння" померлих за допомогою так званих "deadbots" або ж "griefbots" - віртуальних аватарів, що відтворюють особистість людини на базі її цифрового сліду.
Про це пише РБК-Україна, посилаючись на результати дослідження проєкту Artificial Immortality Університету Монреаля.
Більше цікавого: Роботи отримали "інтуїцію" за 110 млн доларів: як ШІ навчився моделювати майбутнє
Як створюються "цифрові привиди"?
Посмертні аватари будуються на основі "цифрового спадку", який людина залишила за життя: дописів у соцмережах, фотографій, аудіо- та відеозаписів. Використовуючи машинне навчання та розширений аналіз даних, алгоритми відтворюють не лише зовнішність, а й манеру спілкування, характер і навіть спогади померлого.
Це створює небезпечну ілюзію "справжності", яка змушує користувачів сумніватися, де закінчується програма і починається особистість.
Хто може бути вразливим?
Дослідники виділяють три групи людей, чия приватність та автономність опиняються під загрозою:
Померлі (або ті, хто усвідомлює, що скоро помре): їхні цифрові сліди можуть бути використані без згоди третіми особами або ж технологічними компаніями.
Родичі та близькі: вони отримують контроль над аватаром, однак постають перед вибором - чи етично створювати віртуальний меморіал і чи мають вони право відмовитися від "воскресіння" близької людини.
Користувачі послуг: люди, які взаємодіють з аватарами через цікавість або біль втрати. Існує ризик розвитку нездорової залежності від сервісу, що може бути раптово вимкнений або змінений компанією-розробником.
Патологічне горе та публічний траур
Одним із найголовніших ризиків є перетворення процесу скорботи на патологічний. Замість того, щоб прийняти втрату та рухатися далі, люди занурюються у віртуальну реальність.
Яскравим прикладом став документальний фільм "Meeting You", де мати зустрілася з цифровим аватаром своєї померлої доньки. Трансляція зустрічі викликала дискомфорт у глядачів через "гіпервізуалізацію" приватного горя.
Фахівці зазначають, що використання таких аватарів без нагляду терапевта може призвести до тривалого емоційного розладу та нездатності повернутися до реального життя.
Етика споживання тригерного ШІ-контенту
Соцмережі, що зберігають профілі померлих (як-от Facebook), стають просторами для "специфічного вуаєризму". Користувачі можуть тривалий час спостерігати за цифровим життям померлого, перетворюючи приватне життя людини на об'єкт споживання.
Ключові питання, які ставить технологія:
- Контроль даних: хто володіє правами на "цифрову душу" після біологічної смерті?
- Гідність померлого: чи не порушує маніпуляція образом померлого його гідність?
- Межі природи: чи є бажаною обіцянка цифрового "вічного життя", яка нівелює природний фінал людського існування?
Дослідники наголошують: розуміння ризиків є критичним кроком у розробці правил використання ШІ-аватарів. Ціль - запобігти зловживанням у світі, де межа між реальним та віртуальним остаточно розмивається.
Ще більше цікавого:
- ШІ ламає психіку користувачів: вчені стривожені масштабами проблеми
- Штучний інтелект не відрізняє правду від брехні: що виявили вчені
