Нейросети в СМИ: недостоверный контент и ИИ-грамотность

Когда нейросети добираются до радио и новостей

Несколько дней назад ехал на работу и услышал по радио, как ведущий обсуждал рост заболеваемости ОРВИ.

Любой родитель знает: примерно через неделю после 1 сентября начинается всплеск заболеваний. Дети возвращаются в школы, обмениваются вирусами и приносят их домой. Это предсказуемо происходит каждый год, и ничего неожиданного в этом нет.

Но по радио прозвучала совсем другая версия:

«На улице похолодало, а люди пренебрегают тёплой одеждой… К этому времени года организм ослаблен…»

Хочу напомнить: на дворе начало сентября! Какая ещё тёплая одежда?! Какой ослабленный организм после летних отпусков?!

Пример номер два.

Готовил пост про компанию Tetra Pak и наткнулся на статью ТАСС (на секундочку — это государственное информагентство!). В тексте такой фрагмент:

“Tetra Pak используется для производства одноразовой посуды, упаковки пищевых продуктов и напитков, подложек для полуфабрикатов, а также для упаковки промышленных и потребительских товаров”

Что такое на самом деле Tetra Pak можно почитать в посте.

А человек, писавший статью, судя по всему, имел в виду обычный ламинированный картон.

Я почти уверен, что в обоих примерах журналисты или редакторы использовали языковую модель (AI) для подготовки текста.

И результат вполне типичный - модель с уверенным видом выдала ерунду.

В случае с Tetra Pak ещё можно понять - не каждый человек знает, что это конкретный бренд и технология. Хотя редакторы могли бы и проверить.

Но привязка вспышки ОРВИ к смене гардероба, это уже совсем странно.

Большинство людей по-прежнему верят СМИ, особенно тем что называются «официальными источниками» Ну а те, в свою очередь, всё чаще доверяют написание текстов искусственному интеллекту. В итоге получаем не просто скучный или поверхностный, а банально недостоверный контент.

К чему это ведёт? К снижению общего уровня понимания людьми происходящего вокруг нас. А он, честно говоря, и так не особенно высок🙂

Если вы пользуетесь нейросетью, напишите в комментариях, насколько вы ей доверяете? Проверяете информацию, которую она вам выдаёт? 👇

Я сам использую активно ChatGPT и Perplexity, и вижу как они нередко уверенно выдают ерунду и понимаю как сложно эту ерунду отфильтровать человеку не в "теме". Поэтому считаю, что по аналогии с компьютерной грамотностью, буквально с младших классов школы нужно как можно скорее вводить предмет “ИИ грамотность”. Это уже делают в таких странах как Китай, Южная Корея, Австралия, Эстония, Индия, UAE, Финляндия. И даже в Таджикистане! А в наших школах пока такого нет. Обидно.

Кстати, вот хорошая статья для понимания как работают нейросети, которую поймет даже школьник-гуманитарий.

Чем больше я читаю о том, как устроены нейросети, тем больше понимаю, что наш мозг очень похож на языковые модели. Просто мы «обучали» нашу нейросеть на разном: - Кто-то на Пушкине, Носове и Крапивине, - Кто-то на Дюма, Конан Дойле и Кинге, - А кто-то на сериалах вроде «Бригады» и «Улиц разбитых фонарей»

И следующий пост будет о книге, которую, я уверен, знает с детства каждый (даже те, кто вообще не любит читать🙂)

Эта книга должна стоять на столе у каждого руководителя как напоминание: где проходит грань между разумными требованиями и капризами в отношениях между подчинёнными и начальством. 👉Не переключайтесь

Незаметный бизнес