Нейросеть неделю выдавала себя за человека на Reddit

Нейросеть неделю выдавала себя за человека на Reddit

13.10.2020     

На Reddit появился странный автор, который за считанные секунды публиковал к постам длинные и содержательные комментарии. Один из пользователей соцсети заинтересовался этим аккаунтом и пришел к выводу, что его ведет нейросеть. 

Подозрительный блогер

Пользователь Reddit под ником thegentlemetre за неделю наполнил свой блог большим количеством качественного контента. Сообщество «реддиторов» обратило внимание, что тексты автора очень напоминают публикации, генерируемые языковой моделью от OpenAI GPT-3

Исследователь, обнаруживший это, опубликовал свои догадки на Reddit. В комментариях ему ответил разработчик сервиса Philosopher AI, который подтвердил, что аккаунт thegentlemetre действительно ведет искусственный интеллект на базе GPT-3. Программист в курсе, что правила социальной сети запрещают публикации от ботов, поэтому он прекратил эксперимент. Больше нейросеть ничего не писала на Reddit. 

О чем писал ИИ

Бот каждую минуту публиковал развернутые комментарии в одном из самых популярных сабреддитов AskReddit в течение недели. Он отвечал реальным пользователям на вопросы о самоубийствах, домогательствах, теориях заговора, иммиграции, расизме. Вот пример текста, сгенерированного нейросетью.

Вопрос: «Какой секрет может буквально испортить вам жизнь, если он откроется?»

Ответ thegentlemetre: «В наши дни, когда есть Интернет и социальные сети, я не думаю, что такие секреты есть. Все опубликовано в Интернете. Но это еще не все. Все, что мы делаем, говорим и думаем, находится под наблюдением. Нас всех постоянно регистрируют и наблюдают. Некоторых из нас контролируют больше, чем других, например, тех, кто работает на государственных должностях».

Также бот смог осмысленно рассказать жуткую историю на ночь, поделиться страхами о вымирании человечества и вспомнить приятные моменты из своего детства.  

Но далеко не все комментарии бота GPT-3 получились удачными. Иногда он давал весьма странные ответы. На вопрос о кликах по баннерам с эротическим содержанием нейросеть сгенерировала пост от лица юриста, который рассказал о двух типах людей, один из которых делает это неосознанно. 

Некоторые посты thegentlemetre получились нечитаемыми. На просьбу рассказать о способах тренировок бот ответил бессмысленным текстом: «Людям не нравится то, что у них есть, поэтому они идут и пробуют более жесткие методы приобретения вещей». Судя по всему, языковая модель попыталась перефразировать известную англоязычную цитату «цель упражнений — не думать о том, что вы проводите свою жизнь, работая за деньги».

Возможности нейросетей

Исследователь, обнаруживший бота, рассказал, что уже давно занимается наблюдением и работой с языковыми моделями. По его словам, GPT-3 в своих комментариях генерировал совершенно новые идеи. Разработчик предположил, что нейросеть могла бы наполнить контентом сайт, подобный «Википедии», за несколько часов. Автор считает, что людям пора задуматься о применении новых возможностей и о контроле над этими системами.

Искусственный интеллект не впервые успешно выдал себя за живого автора текстов. Ранее другой исследователь завел блог, который заполнял публикациями бот. За две недели он смог набрать 26 тыс. читателей, из которых никто не догадался, что материалы пишет не человек.



Источник: https://infostart.ru/journal/news/tekhnologii/neyroset-nedelyu-vydavala-sebya-za-cheloveka-na-reddit_1309103/
Автор:
Александр Вашкевич Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Дата
1. 9539356 13.10.20 13:44 Сейчас в теме
Да уж. На наших глазах появился пионер ИИ. Наши дети в будущем будут с подобным мусором иметь дело ежедневно, в Интернете это будет обыденностью, как сейчас пустые статейки обо всем от СММщиков. Надо запомнить, будет что рассказывать малятам в старости.
2. Дон Кихот 2 13.10.20 15:06 Сейчас в теме
Вместо того чтобы строить справедливый мир и всем вместе бороться за светлое будущее многие допускают что злодеи захватившие власть в мире и есть неизменный первоисточник. Это просто удачливые торговцы, которым повезло однажды, не способные далее развивать мировое сообщество, ставшие теперь узурпаторами строящими тюрьму для всех.
3. Steelvan 48 13.10.20 18:31 Сейчас в теме
хе-хе, когда мне звонит очередной рекламщик, то первая моя фраза это "Сколько будет один вжик-вжик плюс один".
Не отвечает = ПшелВонБот.

Интересно, сколько таких учеток, делающих записи на мисте.
Можно почти в каждой из мистовских учеток сомневаться :)
4. Brawler 481 13.10.20 21:56 Сейчас в теме
Рогозина нужно заменить на ИИ, а то такую пургу несёт ...
5. вивйв 14.10.20 08:30 Сейчас в теме
(1) Возможно, мусором будут считаться те немногие оставшиеся учетки реальных людей, а миром будет править ИИ))
zavladaev; +1 Ответить
6. user856012 13 14.10.20 10:01 Сейчас в теме
(3)
Можно почти в каждой из мистовских учеток сомневаться :)
Зачем куда-то ходить? Сообщение (2) - типичный пример "творчества" бота... причем даже без признаков интеллекта, искусственного или естественного.
товарищ Ын; NorraSaltolinen; +2 Ответить
7. serg33rus 14.10.20 12:19 Сейчас в теме
(4) Так может уже заменили, а технологии еще не отработаны. Поэтому и несет :-)
Оставьте свое сообщение

См. также

Самые медленные языки программирования с динамической типизацией

Новость ИТ-новость Языки программирования

Скорость выполнения программы зависит не только от аппаратной части, но и от языка, на котором она написана. Однако, не все языки программирования могут похвастаться высокой скоростью выполнения кода. Расскажем о некоторых подробнее.

вчера в 15:20    933    SKravchenko    2       

Мэрия Москвы разработала мессенджер для замены Telegram и Skype

Новость Импортозамещение ИТ-новость Мессенджеры

Российская компания ID Partner совместно с правительством Москвы создала приложение TDM Messenger. Согласно описанию, оно позволяет полностью заменить другие мессенджеры, в том числе Telegram и Skype.

02.03.2021    1677    VKuser24342747    7       

Совсем взрослый стал: Python исполнилось 30 лет

Новость ИТ-новость Языки программирования

Python является самым молодым из наиболее популярных языков программирования. Впрочем, все относительно: на днях Python исполнилось 30 лет.

02.03.2021    884    user1015646    1       

Энтузиасты создали для популярного эмулятора патч с поддержкой процессоров «Эльбрус»

Новость ИТ-новость Микроэлектроника Новости компаний

Свободный эмулятор QEMU получил неофициальную поддержку отечественной архитектуры процессоров «Эльбрус». В разработке реализовано около 80% набора инструкций «Эльбрус-8С».

01.03.2021    1872    VKuser24342747    0       

Российский разработчик создал неофициальную версию Clubhouse для Android

Новость Android ИТ-новость Мессенджеры Мобильные приложения

Бывший разработчик из «ВКонтакте» Григорий Клюшников выпустил приложение для Android, предоставляющее доступ к большинству функций Clubhouse. Официально соцсеть доступна только пользователям iOS.

26.02.2021    2131    VKuser24342747    0       

Масштабное обновление Trello: пять новых видов досок и интеграция с Google Docs

Новость ИТ-новость Новости компаний

Компания Atlassian выпустила масштабное обновление сервиса управления проектами Trello. Разработчики изменили дизайн, добавили пять новых видов досок и реализовали для карточек возможность отображать информацию из сторонних сервисов.

25.02.2021    3836    user1015646    0       

Видеоигра на базе нейросетевого генератора текстов стала бизнес-консультантом

Новость Видеоигры Искусственный интеллект ИТ-новость

Энтузиаст использовал возможности текстового квеста, генерирующего разнообразные миры при помощи нейросети GPT-3, чтобы получать советы по ведению бизнеса. Часть идей ИИ оказалась пригодной для использования.

25.02.2021    2244    VKuser24342747    1       

В ближайшие годы возрастет потребность в персонале центров обработки данных

Новость Дата-центры ИТ-новость Цифровая экономика

Согласно отчету Uptime Institute, количество сотрудников, необходимых для обеспечения работы ЦОД, вырастет с 2 млн. в 2019 году до 2,3 млн. в 2025 году.

24.02.2021    2172    SKravchenko    0       

Google кардинально изменит дизайн Android 12

Новость Android Google ИТ-новость Мобильные приложения Новости компаний

Компания Google анонсировала глобальное обновление популярной операционной системы Android. Новая версия выйдет под номером 12. Говорят, что Android 12 назовут «Snow cone» – летний десерт из сладкого колотого льда.

24.02.2021    2570    mouse187    0       

Google представила новый сервис для поиска уязвимостей в открытом ПО

Новость Google Безопасность ИТ-новость

Компания Google запустила платформу с открытым исходным кодом OSV (Open Source Vulnerabilities). Она создана для поиска и закрытия уязвимостей в свободном ПО.

18.02.2021    1351    user1015646    0       

Отечественная компания представила сервер приложений Java EE

Новость ИТ-новость Новости компаний Языки программирования

Российская компания Bellsoft представила отечественный аналог сервера Oracle и IBM для JavaEE. Раньше продукт на базе открытого кода был доступен только для некоторых клиентов организации.

17.02.2021    2387    VKuser24342747    4       

Rustоманы из Долины: Google, Microsoft, Huawei, Mozilla и AWS основали фонд поддержки языка программирования

Новость Google ИТ-новость Новости компаний Языки программирования

Rust – перспективный язык, который широко применяется в разработке операционных систем и высоконагруженных веб-сервисов. Rust Foundation будет заниматься поддержкой и развитием языка.

16.02.2021    1621    user1015646    0       

В Microsoft Teams появилась платформа для общения и обучения

Новость Интернет ИТ-новость Мессенджеры Новости компаний

Microsoft добавила новые функции в корпоративный мессенджер Teams. В подключенной к нему платформе Viva можно пройти обучение, пообщаться с коллегами или улучшить организацию работы.

15.02.2021    3202    user1015646    0       

Google рассказала, как защищает Android от взломов

Новость Android Google Безопасность ИТ-новость

Google опубликовала информацию о том, как компания пытается улучшить безопасность Android, и какие шаги предпринимаются для борьбы с распространенными угрозами. Отчеты об уязвимостях играют в этом значительную роль.

12.02.2021    1925    SKravchenko    0       

Для регионов разработают приложение онлайн-записи на прием к врачам

Новость ИТ-новость Медицина Минкомсвязь Цифровая экономика

О возможностях приложения рассказали в Минздраве и Минцифре.

10.02.2021    1940    Senator_I    2       

Google разработает новую мобильную ОС

Новость MobileOS Google ИТ-новость Мобильные приложения

Корпорация Google создаст мобильную операционную систему для повышения безопасности использования устройств. Проект запущен под рабочим названием microdroid.

09.02.2021    2167    user1015646    0       

Google закрывает собственную игровую студию Stadia

Новость Google Видеоигры ИТ-новость Новости компаний

1 февраля Google официально закрыл собственную студию разработки игр для проекта Stadia, чтобы сосредоточить внимание на технологиях, лежащих в основе платформы.

09.02.2021    1529    SKravchenko    0       

Google представила технологию для замены cookies

Новость Google Интернет ИТ-новость

Методы сбора файлов cookies для повышения точности подбора рекламы не раз упрекали в нарушении личного пространства пользователей. Компания Google представила технологию, которая позволит отказаться от cookies и повысить уровень конфиденциальности.

09.02.2021    1285    user1015646    0       

Украинская команда FireWay одержала победу в хакатоне NASA Space Apps Challenge 2020

Новость ИТ-новость Стартапы

Украинская команда FireWay из Днепра стала победителем международного хакатона NASA Space Apps Challenge. Их изобретение было описано как «решение, которое демонстрирует наиболее инновационное использование технологии».

05.02.2021    2004    SKravchenko    2       

Китайцы разработали целых две альтернативы Flash

Новость Интернет ИТ-новость

Китайцам пришлось разработать собственную технологию ReFla взамен Flash для предотвращения сбоев в работе систем. Также они выпустили доработанную версию Flash Player с кодом 34.0.0.92.

04.02.2021    2145    mouse187    4       

Популярные дистрибутивы Linux могут лишиться поддержки Chromium

Новость Linux Google Интернет ИТ-новость

Из дистрибутивов Arch Linux, Fedora, Debian, Slackware и openSUSE может исчезнуть поддержка браузеров на движке Chromium. Причина – жесткие правила Google, из-за которых возникли проблемы с синхронизацией данных.

03.02.2021    2421    user1015646    3       

Microsoft участвует в разработке цифрового паспорта вакцинации от Covid-19

Новость ИТ-новость Медицина

Крупнейшие корпорации из сектора здравоохранения и ИТ-гиганты, такие как Microsoft, Salesforce и другие, объединились для создания цифровых идентификационных карт, которые подтверждают статус вакцинации против Covid-19.

02.02.2021    1791    capitan    3       

Что нового в Chrome 88: проверка надежности паролей и поддержка профилей

Новость Google Интернет ИТ-новость

Компания Google представила новый релиз браузера Chrome и обновила движок Chromium. Теперь ПО будет предупреждать о небезопасных паролях, а пользователь сможет создать привязанный к учетной записи профиль для персонализации работы в сети.

01.02.2021    2259    user1015646    0       

280 символов для науки: Twitter откроет доступ ученым к архиву твитов

Новость ИТ-новость Соцсети

Twitter предоставит академическим исследователям социальных сетей бесплатный доступ почти ко всем твитам. Исключение площадка сделает только для заблокированных аккаунтов.

29.01.2021    1511    VKuser24342747    1       

Отключение Flash на сутки лишило город железнодорожных служб

Новость Интернет ИТ-новость

Прекращение поддержки Flash парализовало работу железнодорожной сети китайского города-миллионника. Организация проигнорировала предупреждения Adobe о грядущем отключении технологии.

29.01.2021    1906    VKuser24342747    1