Unii creatori de conținut folosesc inteligența artificială pentru a recrea chipul unor copii decedați sau dispăruți, cărora le dau voci care să povestească detaliile tulburătoare despre ceea ce li s-a întâmplat.
Experții avertizează, însă, că un astfel de trend poate avea efect negative. Creatorii de conținut riscă să ofere informații eronate și să-i tulbure pe apropiații victimelor.
„Tehnologia se mișcă atât de rapid, iar actorii răi pot să o exploateze mai rapid decât poate fi implementată o protecție. Suntem foarte îngrijorați în legătură cu abilitatea unui utilizator normal al internetului de a găsi informații corecte și de a recunoaște acele informații”, spune Matt Skibinski, director general NewsGuard.
În timp ce Tiktok a eliminat mai multe astfel de videoclipuri, acestea circulă în continuare pe platforme precum Youtube.
Reprezentanții TikTok spun că avansarea inteligenței artificiale poate face mai dificilă distincția dintre realitate și ficțiune, ceea ce implică riscuri atât sociale, cât și individuale. Regulile impuse de platformă cer utilizatorilor care prezintă conținut media sintetic sau manipulat să precizeze că acesta nu este real.
