За ефектним падінням Facebook, Instagram та WatsApp цього тижня в Українському медіапросторі геть загубилася важливіша новина про цю соцмережу. А саме, розкриття подробиць неетичної поведінки верхівки управління корпорації. Читачі цього блогу прекрасно розуміють про що йдеться. Та для ширшої аудиторії подробиці можуть лунати сенсаційно.
Одкровення Френсис Хоген, колишньої продакт-менеджерки у Фейсбук, яку в медіа вже прозвали “Facebook whistleblower”, багато хто прирівнює до викриттів Едварда Сноудена. На початку тижня вона постала перед Конгресом США для публічних слухань, а трохи пізніше в неї заплановані зустрічі з парламентськими комісіями кількох європейських країн. Факти та подробиці, які розкриває Френсис, давно відомі нам з фільму “Соціальна дилема” на Netflix, книги “Епоха наглядового капіталізму” Шошани Зубової, низки есе, подкастів та дискусій визначних діячів сучасності у “інтелектуальному дарквебі”. Проте, деякі подробиці здивували навіть давніх Фейсбук-скептиків.
Впродовж тривалого часу, спостерігаючи нові подробиці відверто антисоціальних рішень Марка Цукерберга та Шеріл Сандберг, я продовжував робити знижку на їхнє неусвідомлення усієї повноти їх наслідків. Проте, як виявилося, ці рішення приймалися цілком свідомо.
Пам’ятаєте, як соціальні мережі захопили алгоритми? Цей момент був очевидним: десь одразу поділися усі ігри по типу “Веселого фермера” та інші умовно позитивні подразнювачі. Десь у той самий період розробники соціальних мереж остаточно переконалися, що їм не вдасться самостійно утримувати увагу користувачів якомога довше на своєму сайті або додатку.
Також, до них дійшло, що надати користувачам змогу самостійно створювати контент – теж не вихід. Контенту багато, користувачів ще більше, і треба дуже тонко налаштувати коли, що і кому показувати. Для цього, теоретично, можна показувати користувачам контент, на який відреагували їхні друзі. Проте це проблему не вирішує: серед тисяч можливих варіантів дописів треба обрати всього кілька найоптимальніших.
Для знавців сучасних технологій ця ситуація знайома і розв’язання в неї очевидне. Скрізь, де з задачею не в змозі впоратися людина, виникає перспектива застосування елементів штучного інтелекту. Ефективні алгоритми штучного інтелекту відрізняються від неефективних об’ємом та якістю даних, які були використані під час їхнього навчання, а у Фейсбуку цих даних вдосталь. Отже, визначення пріоритетності контенту було доручено алгоритмам.
Проте алгоритми штука дуже нестабільна. Вони навчаються на рішеннях людей, а потім екстраполюють цю поведінку, прогнозуючи рішення інших, схожих людей у майбутньому. Збіги прогнозів з рішеннями користувачів підсилюють алгоритми, а незбіги послаблюють. Так одні алгоритми стають все більш ефективними, а інші – не стають, та зрештою геть втрачають актуальність. Але так чи інакше в основі алгоритмів стоїть людська поведінка, штука дуже складна, тим більше в обставинах умовної анонімності інтернету.
Через деякий час виявилося, що алгоритми, якщо за ними уважно не доглядати, рано чи пізно, так би мовити “радикалізуються” та переймають найгірші риси людей. Емпатія, етика та мораль, які стримують наші антисоціальні дії та емоційні прояви, в алгоритмів відсутні, адже це продукти соціальної еволюції homo sapiens. І ось вже ми чуємо гучні новини про расистські алгоритми, алгоритми що займаються булінгом, та алгоритми, які просувають в соціальних мережах контент, що викликає в людей дві найсильніші емоційні реакції: страх та ненависть.
В цьому місці варто було б поставити процес на паузу та дати науковцям трохи часу на розвиток таких галузей знань, як етика та мораль штучного інтелекту. Проте Цукербергу та Сандберг було не до того, їм у потилицю дихали Ют’юб з Тіктоком. Яке там чекати, треба нарощувати базу користувачів та утримувати їхню увагу у смартфоні та браузері якнайдовше. І як виявилося лише зараз, вони абсолютно свідомо та поінформовано прийняли рішення про використання ефективних алгоритмів там, де треба було використовувати етичні. Тому за фактом, що ФБ просуває хейт та шок-контент, стоїть не складність штучного інтелекту та не необізнаність керівництва про відповідні етичні проблеми. За цим явищем стоять цілком конкретні управлінські рішення.
За час, що пройшов з моменту мого усвідомлення стану справ в алгоритмах Фейсбуку, я практично припинив ним користуватися. Тенденція стала для мене очевидною роки зо два тому, тоді ж почався мій поступовий “вихід” з соцмережі. Зараз я використовую її як інструмент для публікування матеріалів для користувачів Фейсбуку, бо майже впевнений, що це єдиний спосіб потрапити їм на очі. Для всіх інших у мене є окремий вебсайт, який можна читати через веб, RSS-читалку або навіть як розсилку електронною поштою. Я давно вважаю Facebook соціальним злом, найменш етичним та найбільш аморальним явищем цифрового капіталізму. Але якщо ви давно мене читаєте, то для вас це не новина.
Проте, читачі Фейсбуку то ще не найгірше, найгірше то дописувачі. Філософи штучного інтелекту давно міркують про те, що відбувається, коли алгоритм з “оракула” перетворюється на “правителя”. Поясню на прикладі: багато хто з автолюбителів здійснює навігацію містом за допомогою спеціальних додатків. Затори в місті постійно, але вони нерівномірні, та знати яка і де в них щільність ми фізично не в змозі. Тут нам допомагають алгоритми, які через встановлені у наших смартфонах додатки відстежують маршрут та швидкість нашого пересування та передають ці дані у хмару. Там конвергенція усіх цих даних дає змогу алгоритмам штучного інтелекту побудувати найкращий маршрут для кожного із нас. Тобто алгоритми знають все про всіх водіїв у мережі та підказують нам, як пересуватися, щоб втратити найменше часу.
Тепер уявіть собі момент, в який алгоритми починають не просто підказувати нам, як поводитись з огляду на дані про вуличний трафік. Вони починають маніпулювати нами, щоб оптимізувати цей трафік. Тобто не просто кажуть нам – не їдь туди, там затор, краще їдь ось сюди. А навмисно обманюють нас і направляють по альтернативному маршруту, хоча ніякого затору попереду немає. Для чого? Звісно, що не заради обману як такого.
Просто оракул-частина алгоритму передбачає утворення затору за кілька хвилин, тому штучний інтелект розв’язує вже не задачу навігації водіїв, а задачу оптимізації пропускної здатності автошляхів. Тю, скажете ви, навіщо йому це може бути потрібно? І матимете рацію, бо штучному інтелекту це не потрібно. Це потрібно його головним клієнтам, якими в найближчому майбутньому стануть мережі автономних транспортних засобів. А потреби homo sapiens за кермом – це проблеми протоплазми, най вона їх і вирішує. Люди можуть, звісно, відмовитися від використання алгоритмів, але чи успішно? Скоріш за все, вони просто підлаштуються.
Саме це відбулося з авторами контенту, які фокусуються на Фейсбук-аудиторії. Зважаючи на те, які тексти, зображення та відео набирають найбільше реакцій та поширень, вони з часом адаптувалися під алгоритми. Розлогі аналітичні міркування Фейсбуку не цікаві, йому потрібні емоції. А з емоцій найбільше реакцій та поширень збирають ненависть та страх. Тому не шукайте у Фейсбуку об’єктивну інформацію, ви її там не знайдете.
Навіть якщо вона там і з’явиться, ваші шанси побачити її у стрічці неймовірно малі. Для цього вам доведеться не просто підписатися на автора або сторінку, а явно дати Фейсбуку вказівку завжди показувати його публікації у вашій стрічці найпершими. Тоді соцмережа може й покаже вам щось, що не містить хейту та залякування. Але один раз, далі за гроші. Я не жартую, щоб дотягнутися до всієї аудиторії моєї сторінки та досягнути хоча б одноразового показу цього допису мені доведеться витрати в районі 30 доларів.
Підіб’ємо підсумки. Фейсбук, напевно, найгірший спосіб, щоб отримувати новини. Вміст у Фейсбуку просувається відповідно до найглибших емоційних реакцій користувачів. Цими реакціями є страх та ненависть. Коли корівники Фейсбуку усвідомили це, вони могли врегулювати налаштування алгоритмів та знизити пріоритетність хейту та страху в соцмережі. Але вони не зробили цього, причому не через незнання та сумніви, а свідомо та з економічних міркувань.
Я не закликаю вас покинути Фейсбук, тому що це навряд чи можливо. Є шанси, що колись соціопатія топменеджерів Фейсбуку зміниться на етичну поведінку. Але навряд чи через внутрішні мотиви та без примусу. Ситуація, що склалася, вимагає зовнішнього регулювання. І якщо не поточний скандал, то якийсь з наступних до цього зрештою призведе. А доти я просто раджу вам використовувати соцмережі за призначенням та спілкуватися в них, а не отримувати з них інформацію. Для цього є безліч інших, більш адекватних способів. Бережіться.