Нейросеть неделю выдавала себя за человека на Reddit

Нейросеть неделю выдавала себя за человека на Reddit

13.10.2020      21757

На Reddit появился странный автор, который за считанные секунды публиковал к постам длинные и содержательные комментарии. Один из пользователей соцсети заинтересовался этим аккаунтом и пришел к выводу, что его ведет нейросеть. 

Подозрительный блогер

Пользователь Reddit под ником thegentlemetre за неделю наполнил свой блог большим количеством качественного контента. Сообщество «реддиторов» обратило внимание, что тексты автора очень напоминают публикации, генерируемые языковой моделью от OpenAI GPT-3

Исследователь, обнаруживший это, опубликовал свои догадки на Reddit. В комментариях ему ответил разработчик сервиса Philosopher AI, который подтвердил, что аккаунт thegentlemetre действительно ведет искусственный интеллект на базе GPT-3. Программист в курсе, что правила социальной сети запрещают публикации от ботов, поэтому он прекратил эксперимент. Больше нейросеть ничего не писала на Reddit. 

О чем писал ИИ

Бот каждую минуту публиковал развернутые комментарии в одном из самых популярных сабреддитов AskReddit в течение недели. Он отвечал реальным пользователям на вопросы о самоубийствах, домогательствах, теориях заговора, иммиграции, расизме. Вот пример текста, сгенерированного нейросетью.

Вопрос: «Какой секрет может буквально испортить вам жизнь, если он откроется?»

Ответ thegentlemetre: «В наши дни, когда есть Интернет и социальные сети, я не думаю, что такие секреты есть. Все опубликовано в Интернете. Но это еще не все. Все, что мы делаем, говорим и думаем, находится под наблюдением. Нас всех постоянно регистрируют и наблюдают. Некоторых из нас контролируют больше, чем других, например, тех, кто работает на государственных должностях».

Также бот смог осмысленно рассказать жуткую историю на ночь, поделиться страхами о вымирании человечества и вспомнить приятные моменты из своего детства.  

Но далеко не все комментарии бота GPT-3 получились удачными. Иногда он давал весьма странные ответы. На вопрос о кликах по баннерам с эротическим содержанием нейросеть сгенерировала пост от лица юриста, который рассказал о двух типах людей, один из которых делает это неосознанно. 

Некоторые посты thegentlemetre получились нечитаемыми. На просьбу рассказать о способах тренировок бот ответил бессмысленным текстом: «Людям не нравится то, что у них есть, поэтому они идут и пробуют более жесткие методы приобретения вещей». Судя по всему, языковая модель попыталась перефразировать известную англоязычную цитату «цель упражнений — не думать о том, что вы проводите свою жизнь, работая за деньги».

Возможности нейросетей

Исследователь, обнаруживший бота, рассказал, что уже давно занимается наблюдением и работой с языковыми моделями. По его словам, GPT-3 в своих комментариях генерировал совершенно новые идеи. Разработчик предположил, что нейросеть могла бы наполнить контентом сайт, подобный «Википедии», за несколько часов. Автор считает, что людям пора задуматься о применении новых возможностей и о контроле над этими системами.

Искусственный интеллект не впервые успешно выдал себя за живого автора текстов. Ранее другой исследователь завел блог, который заполнял публикациями бот. За две недели он смог набрать 26 тыс. читателей, из которых никто не догадался, что материалы пишет не человек.



Источник: https://infostart.ru/journal/news/tekhnologii/neyroset-nedelyu-vydavala-sebya-za-cheloveka-na-reddit_1309103/
Автор:
Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. acces969 13.10.20 13:44 Сейчас в теме
Да уж. На наших глазах появился пионер ИИ. Наши дети в будущем будут с подобным мусором иметь дело ежедневно, в Интернете это будет обыденностью, как сейчас пустые статейки обо всем от СММщиков. Надо запомнить, будет что рассказывать малятам в старости.
5. вивйв 14.10.20 08:30 Сейчас в теме
(1) Возможно, мусором будут считаться те немногие оставшиеся учетки реальных людей, а миром будет править ИИ))
zavladaev; +1 Ответить
2. Дон Кихот 3 13.10.20 15:06 Сейчас в теме
Вместо того чтобы строить справедливый мир и всем вместе бороться за светлое будущее многие допускают что злодеи захватившие власть в мире и есть неизменный первоисточник. Это просто удачливые торговцы, которым повезло однажды, не способные далее развивать мировое сообщество, ставшие теперь узурпаторами строящими тюрьму для всех.
3. Steelvan 269 13.10.20 18:31 Сейчас в теме
хе-хе, когда мне звонит очередной рекламщик, то первая моя фраза это "Сколько будет один вжик-вжик плюс один".
Не отвечает = ПшелВонБот.

Интересно, сколько таких учеток, делающих записи на мисте.
Можно почти в каждой из мистовских учеток сомневаться :)
6. user856012 13 14.10.20 10:01 Сейчас в теме
(3)
Можно почти в каждой из мистовских учеток сомневаться :)
Зачем куда-то ходить? Сообщение (2) - типичный пример "творчества" бота... причем даже без признаков интеллекта, искусственного или естественного.
товарищ Ын; NorraSaltolinen; +2 Ответить
4. Brawler 438 13.10.20 21:56 Сейчас в теме
Рогозина нужно заменить на ИИ, а то такую пургу несёт ...
7. serg33rus 14.10.20 12:19 Сейчас в теме
(4) Так может уже заменили, а технологии еще не отработаны. Поэтому и несет :-)
Оставьте свое сообщение

См. также

«Сбер» начнет использовать российские TLS-сертификаты для платежного шлюза

Новость Безопасность ИТ-новость Минцифры

Банк запланировал переход на сертификаты, выпущенные Национальным удостоверяющим центром (НУЦ) Минцифры, на 30 января 2023 года. Клиентам необходимо добавить на свои серверы корневой сертификат ведомства.

30.01.2023    1561    VKuser24342747    1       

Минцифры подготовило правила отказа от передачи биометрических данных

Новость ИТ-новость Минцифры

Гражданин имеет право отказаться от сбора и распространения своих биометрических данных. Отказ можно оформить в МФЦ только при личном присутствии.

24.01.2023    1047    VKuser24342747    0       

Банки смогут получить право на передоверие полномочий по электронной подписи

Новость ИТ-новость Цифровая подпись Цифровая экономика

Комитет Госдумы рекомендует принять соответствующий законопроект. Документ позволит компаниям финансового сектора использовать электронную подпись наравне с другими организациями.

20.01.2023    921    VKuser24342747    0       

«ВКонтакте» начал поддерживать получение уведомлений от Госуслуг

Новость Госуслуги ИТ-новость Мессенджеры Налоги

Оповещения с Единого портала госуслуг будут отображаться в Вконтакте и приложении «VK Мессенджер». Кроме того, стала доступна оплата штрафов ГИБДД прямо в VK.

19.01.2023    1037    VKuser24342747    0       

Минцифры подготовило правила аккредитации госорганов на владение информсистемами для биометрии

Новость Законодательство ИТ-новость Минцифры

Проект постановления содержит требования к Цетробанку и госорганам, а также к сторонним организациям, которые будут привлекаться ведомствами в качестве операторов. Требования согласованы с ФСБ.

19.01.2023    977    VKuser24342747    0       

Утвержден профстандарт специалиста по информационной безопасности

Новость Безопасность ИТ-новость

Новый профстандарт вступит в силу 1 сентября 2023 года. А пока у работодателей в кредитно-финансовой сфере есть время проанализировать трудовой функционал специалистов по ИБ и при необходимости уточнить его.

17.01.2023    1656    user1816563    0       

Национальная система пространственных данных начала работу в России

Новость ИТ-новость Цифровая экономика

Пилотный проект по запуску цифровой платформы стартовал в четырех регионах РФ. При помощи системы можно получать актуальные данные о земле и недвижимости, пользоваться электронными сервисами.

12.01.2023    1824    VKuser24342747    0       

Госдума рассмотрит законопроект о цифровом рубле

Новость Законодательство ИТ-новость Цифровая экономика

Документ определяет выпуск и обращение цифрового рубля на территории России, назначает оператора нового платежного средства и его полномочия и обязанности по сохранности денег пользователей.

11.01.2023    3715    VKuser24342747    2       

Оператором Единой биометрической системы стал «Центр Биометрических Технологий»

Новость ИТ-новость

Ранее за работу платформы отвечал «Ростелеком». На «Центр Биометрических Технологий» возложены задачи по развитию в России цифровых технологий идентификации и аутентификации, в том числе на основе биометрических персональных данных.

22.12.2022    2463    VKuser24342747    2       

GitHub бесплатно проверит репозитории на наличие секретных токенов

Новость GitHub Безопасность ИТ-новость

ИТ-хостинг запустил систему сканирования общедоступных репозиториев, чтобы предотвратить случайное раскрытие конфиденциальной информации, такой как учетные данные и токены аутентификации.

22.12.2022    1827    VKuser24342747    1       

GitHub к концу 2023 года введет обязательную двухфакторную аутентификацию

Новость GitHub Безопасность ИТ-новость

Веб-хостинг потребует от всех пользователей, загружающих код, включить двухфакторную аутентификацию (2FA) для дополнительной защиты своих аккаунтов.

21.12.2022    2111    VKuser24342747    0       

Госдума рассмотрит законопроект о провайдере для госсайтов

Новость Государственные, бюджетные структуры Законодательство ИТ-новость

Документ предусматривает запрет на размещение государственных информационных ресурсов на хостингах, не включенных в специальный реестр. Сейчас около 20% ресурсов госорганов размещены на иностранных площадках.

20.12.2022    1731    VKuser24342747    1       

«Яндекс» открыл доступ к фреймворку Yatagan для сборки Android-приложений

Новость ИТ-новость Яндекс Разработка

Инструмент свободно распространяется через GitHub. Перед публикацией в открытом доступе фреймворк долгое время применялся во внутренних проектах компании. Решение основано на API Dagger.

16.12.2022    2563    VKuser24342747    1       

В России появится национальная издательская система вместо иностранных аналогов

Новость Импортозамещение ИТ-новость

Программный комплекс будет создан на базе существующего отечественного решения Axiocat. Сейчас это приложение не внесено в Единый реестр российского ПО, хотя применяется некоторыми компаниями.

15.12.2022    1774    VKuser24342747    0       

Google рассказала о проблемах и преимуществах поддержки разработки на Rust в Android 13

Новость Google ИТ-новость Языки программирования

По итогам внедрения поддержки разработки на Rust снизилось число уязвимостей, связанных с управлением памятью. Инженеры считают, что основное внимание нужно уделить написанию нового кода, а не переписыванию старого.

14.12.2022    1860    VKuser24342747    0       

Банки обяжут принимать оплату по картам «Мир» с QR-кодом в смартфоне

Новость Банки ИТ-новость

Оператор платежной системы «Мир» разослал российским банкам документ с требованием обеспечить прием платежей по новой технологии. Первый этап внедрения завершится в апреле 2023 года.

14.12.2022    2057    VKuser24342747    1       

Госдума рассмотрит законопроект о создании Национального удостоверяющего центра

Новость Законодательство Интернет ИТ-новость

Информационная система позволит российским сайтам получать сертификаты безопасности без участия иностранных организаций. Для их выдачи будет применяться отечественная криптография.

09.12.2022    1904    VKuser24342747    0       

Госдума планирует отложить срок обязательного перехода на машиночитаемые доверенности

Новость Законодательство ИТ-новость

Госдума в первом чтении одобрила законопроект, который продлевает переходный период для машиночитаемых доверенностей. Еще полгода организации смогут не применять МЧД при использовании электронных подписей.

08.12.2022    1994    VKuser24342747    0       

GitHub опубликовал статистику по языкам и проектам за 2022 год

Новость ИТ-новость Языки программирования Разработка

В статистическом отчете репозитория названы самые популярные языки программирования среди пользователей платформы, а также данные об активности аудитории сервиса.

01.12.2022    2397    VKuser24342747    11       

Инспекторы смогут проводить дистанционные проверки через смартфон

Новость ИТ-новость Мобильные приложения

Минэкономразвития представило мобильное приложение, которое позволит осуществлять надзорные мероприятия бизнеса без посещения офиса. Программа работает через Госуслуги.

28.11.2022    2364    VKuser24342747    0       

«Яндекс» представил бесплатный сервис для быстрого поиска в облаке

Новость ИТ-новость Облачные технологии

Сервис Managed Service for OpenSearch от платформы Yandex Cloud предназначен для оптимизации поисковых систем и проверки стабильности и безопасности работы приложений. Услуга доступа в режиме Public Preview.

24.11.2022    3112    VKuser24342747    1       

В декабре начнут действовать новые правила регистрации доменов .RU и .РФ

Новость ИТ-новость Роскомнадзор

С 12 декабря Роскомнадзор получит право прекращать делегирование домена, если он оформлен нелегально, или на сайте содержится запрещенная в России информация.

23.11.2022    2267    VKuser24342747    1       

Stack Overflow запустил проект для оффлайн-доступа к форуму

Новость ИТ-новость Разработка

Проект под названием Overflow Offline позволяет скачать актуальную версию архива вопросов и ответов по разработке ПО. По объему данных база форума уступает только «Википедии».

02.11.2022    2164    VKuser24342747    1       

Минцифры запустило магазин российского ПО из реестра ИТ-решений

Новость Импортозамещение ИТ-новость

Маркетплейс «Руссофт» стал доступен для всех пользователей. С его помощью можно подобрать программы от отечественных разработчиков для решения корпоративных задач бизнеса.

21.10.2022    2527    VKuser24342747    4       

В ноябре начнется создание российского государственного аналога GitHub

Новость ИТ-новость

Правительство озвучило дату запуска эксперимента по разработке отечественного репозитория ПО. Исходники программ, в том числе разработанных для госорганов, будут публиковаться в нем под открытой лицензией.

19.10.2022    3437    VKuser24342747    14