Нейросеть неделю выдавала себя за человека на Reddit

Нейросеть неделю выдавала себя за человека на Reddit

13.10.2020     

На Reddit появился странный автор, который за считанные секунды публиковал к постам длинные и содержательные комментарии. Один из пользователей соцсети заинтересовался этим аккаунтом и пришел к выводу, что его ведет нейросеть. 

Подозрительный блогер

Пользователь Reddit под ником thegentlemetre за неделю наполнил свой блог большим количеством качественного контента. Сообщество «реддиторов» обратило внимание, что тексты автора очень напоминают публикации, генерируемые языковой моделью от OpenAI GPT-3

Исследователь, обнаруживший это, опубликовал свои догадки на Reddit. В комментариях ему ответил разработчик сервиса Philosopher AI, который подтвердил, что аккаунт thegentlemetre действительно ведет искусственный интеллект на базе GPT-3. Программист в курсе, что правила социальной сети запрещают публикации от ботов, поэтому он прекратил эксперимент. Больше нейросеть ничего не писала на Reddit. 

О чем писал ИИ

Бот каждую минуту публиковал развернутые комментарии в одном из самых популярных сабреддитов AskReddit в течение недели. Он отвечал реальным пользователям на вопросы о самоубийствах, домогательствах, теориях заговора, иммиграции, расизме. Вот пример текста, сгенерированного нейросетью.

Вопрос: «Какой секрет может буквально испортить вам жизнь, если он откроется?»

Ответ thegentlemetre: «В наши дни, когда есть Интернет и социальные сети, я не думаю, что такие секреты есть. Все опубликовано в Интернете. Но это еще не все. Все, что мы делаем, говорим и думаем, находится под наблюдением. Нас всех постоянно регистрируют и наблюдают. Некоторых из нас контролируют больше, чем других, например, тех, кто работает на государственных должностях».

Также бот смог осмысленно рассказать жуткую историю на ночь, поделиться страхами о вымирании человечества и вспомнить приятные моменты из своего детства.  

Но далеко не все комментарии бота GPT-3 получились удачными. Иногда он давал весьма странные ответы. На вопрос о кликах по баннерам с эротическим содержанием нейросеть сгенерировала пост от лица юриста, который рассказал о двух типах людей, один из которых делает это неосознанно. 

Некоторые посты thegentlemetre получились нечитаемыми. На просьбу рассказать о способах тренировок бот ответил бессмысленным текстом: «Людям не нравится то, что у них есть, поэтому они идут и пробуют более жесткие методы приобретения вещей». Судя по всему, языковая модель попыталась перефразировать известную англоязычную цитату «цель упражнений — не думать о том, что вы проводите свою жизнь, работая за деньги».

Возможности нейросетей

Исследователь, обнаруживший бота, рассказал, что уже давно занимается наблюдением и работой с языковыми моделями. По его словам, GPT-3 в своих комментариях генерировал совершенно новые идеи. Разработчик предположил, что нейросеть могла бы наполнить контентом сайт, подобный «Википедии», за несколько часов. Автор считает, что людям пора задуматься о применении новых возможностей и о контроле над этими системами.

Искусственный интеллект не впервые успешно выдал себя за живого автора текстов. Ранее другой исследователь завел блог, который заполнял публикациями бот. За две недели он смог набрать 26 тыс. читателей, из которых никто не догадался, что материалы пишет не человек.



Источник: https://infostart.ru/journal/news/tekhnologii/neyroset-nedelyu-vydavala-sebya-za-cheloveka-na-reddit_1309103/
Автор:
Александр Вашкевич Аналитик


Комментарии
В избранное Подписаться на ответы Сортировка: Древо развёрнутое
Свернуть все
1. 9539356 13.10.20 13:44 Сейчас в теме
Да уж. На наших глазах появился пионер ИИ. Наши дети в будущем будут с подобным мусором иметь дело ежедневно, в Интернете это будет обыденностью, как сейчас пустые статейки обо всем от СММщиков. Надо запомнить, будет что рассказывать малятам в старости.
5. вивйв 14.10.20 08:30 Сейчас в теме
(1) Возможно, мусором будут считаться те немногие оставшиеся учетки реальных людей, а миром будет править ИИ))
zavladaev; +1 Ответить
2. Дон Кихот 2 13.10.20 15:06 Сейчас в теме
Вместо того чтобы строить справедливый мир и всем вместе бороться за светлое будущее многие допускают что злодеи захватившие власть в мире и есть неизменный первоисточник. Это просто удачливые торговцы, которым повезло однажды, не способные далее развивать мировое сообщество, ставшие теперь узурпаторами строящими тюрьму для всех.
3. Steelvan 35 13.10.20 18:31 Сейчас в теме
хе-хе, когда мне звонит очередной рекламщик, то первая моя фраза это "Сколько будет один вжик-вжик плюс один".
Не отвечает = ПшелВонБот.

Интересно, сколько таких учеток, делающих записи на мисте.
Можно почти в каждой из мистовских учеток сомневаться :)
6. user856012 13 14.10.20 10:01 Сейчас в теме
(3)
Можно почти в каждой из мистовских учеток сомневаться :)
Зачем куда-то ходить? Сообщение (2) - типичный пример "творчества" бота... причем даже без признаков интеллекта, искусственного или естественного.
товарищ Ын; NorraSaltolinen; +2 Ответить
4. Brawler 480 13.10.20 21:56 Сейчас в теме
Рогозина нужно заменить на ИИ, а то такую пургу несёт ...
7. serg33rus 14.10.20 12:19 Сейчас в теме
(4) Так может уже заменили, а технологии еще не отработаны. Поэтому и несет :-)
Оставьте свое сообщение

См. также

Наниматели назвали самые востребованные языки программирования

Новость Аналитика ИТ-новость Языки программирования

Компания по обучению программистов CodinGame составила рейтинг самых востребованных языков программирования среди нанимателей. Для этого организация опросила 15 тыс. разработчиков и менеджеров по персоналу.

сегодня в 11:43    932    SKravchenko    1       

Вышел новый мировой стандарт Wi-Fi 6E. В России он не доступен

Новость ИТ-новость Телекоммуникации

В мире стартовало лицензирование и распространение устройств для работы с новым стандартом беспроводных сетей Wi-Fi 6E. В России стандарт не будет поддерживаться, поскольку частота в 6 ГГц уже занята.

вчера в 11:48    1116    user-programmist    2       

CES 2021: главные анонсы первой технологической выставки года

Новость Инновации ИТ-новость Микроэлектроника

CES (Consumer Electronics Show) в Лас-Вегасе традиционно открывает год на мировом рынке технологий. Из-за ограничений, связанных с пандемией, выставку провели онлайн, но это не помешало производителям представить интересные новинки.

25.01.2021    1613    user1015646    2       

Представлен GitLab 13.7: автооткат при сбоях и улучшенная проверка мердж-реквестов

Новость git Автоматизация ИТ-новость Новости компаний

Компания GitLab выпустила новый релиз платформы для работы с Git-репозиториями. В GitLab 13.7 добавили 45 новых функций, в том числе автоматический откат при сбоях и инструмент проверяющих для запросов на слияние.

22.01.2021    1786    user1015646    0       

Red Hat заменит CentOS бесплатной Red Hat Enterprise Linux

Новость Linux ИТ-новость

Red Hat в декабре объявила о прекращении поддержки CentOS 8 в 2021 году. Это вызвало волну негодования среди разработчиков, но теперь всё встало на свои места: компания представила бесплатные версии Red Hat Enterprise Linux для команд.

21.01.2021    2064    user1015646    0       

Российские исследователи представили новый фреймворк для работы с большими данными

Новость Аналитика Искусственный интеллект ИТ-новость

Специалисты Национального центра когнитивных разработок ИТМО представили платформу, которая упростит создание моделей технологических и бизнес-процессов. Она поможет принимать эффективные управленческие решения в условиях отсутствия полных данных.

21.01.2021    1562    user1015646    2       

Конец Flash: Adobe стала блокировать динамический контент

Новость Интернет ИТ-новость

Компания Adobe блокирует Flash-контент на веб-сайтах, которые используют Flash Player. Разработчик больше не поддерживает устаревшую и небезопасную технологию.

21.01.2021    1703    user1015646    0       

Новая система находит ошибки при разработке ПО в режиме реального времени

Новость Автоматизация ИТ-новость

Специалисты исследовательской группы SOM Research Lab разработали инструмент проверки моделей программного обеспечения, который находит ошибки непосредственно в процессе создания модели, а не после ее завершения.

20.01.2021    2149    user1015646    0       

Искусственный интеллект научился обыгрывать людей, не зная правил игры

Новость Искусственный интеллект ИТ-новость

Британская компания DeepMind представила новую разработку в сфере искусственного интеллекта. Система MuZero успешно обыгрывает опытных спортсменов и геймеров, даже не зная правил игры.

20.01.2021    2161    user1015646    2       

Тетрис помог повысить заполняемость отелей

Новость Автоматизация ИТ-новость

Алгоритм RoomTetris, разработанный исследователями из LION Laboratory (Learning and Intelligent Optimization) – Лаборатории обучения и интеллектуальной оптимизации, избавит отельеров от овербукинга. Вдохновением для ученых послужила игра «Тетрис».

19.01.2021    1874    user1015646    5       

Нейросеть научили создавать изображения по текстовому описанию

Новость Искусственный интеллект ИТ-новость

Разработчики компании OpenAI представили нейронную сеть DALL-E. Она анализирует англоязычный текст и создает изображения на его основе.

19.01.2021    1939    user1015646    0       

Разработчики портируют Linux на Mac с процессором M1

Новость Linux Микроэлектроника

Компания Apple представила первые компьютеры на базе процессоров M1 собственной разработки. Разработчик Гектор Мартин решил создать сборку Linux специально для этих компьютеров. 

18.01.2021    1165    user1015646    4       

10 стартапов в области машинного обучения, за которыми стоит следить в 2021 году

Новость Искусственный интеллект Стартапы

По данным Crunchbase, в 2020 году компании, связанные с искусственным интеллектом и машинным обучением, получили рекордное финансирование – 28 млрд долларов. Представляем список из 10 самых перспективных стартапов в этой области.

18.01.2021    1591    SKravchenko    0       

Fujifilm и IBM создали ленточный накопитель с рекордным объемом памяти

Новость Дата-центры ИТ-новость Облачные технологии

Fujifilm и IBM повысили емкость ленточных накопителей до рекордных 580 терабайт информации. Это значительно превосходит максимальную емкость SSD – 100 ТБ и жестких дисков – 30 ТБ.

13.01.2021    1464    user-programmist    0       

Эксперты назвали 10 навыков для ИТ-специалистов, которые обеспечат прибавку к зарплате

Новость Автоматизация Аналитика Искусственный интеллект ИТ-новость

Зарплаты в ИТ-сфере – одни из самых высоких, и у специалистов здесь существует масса возможностей для роста. Специалисты компании Burning Glass определили, какими навыками должны обладать сотрудники, нацеленные на максимальную прибавку к зарплате.

12.01.2021    2006    user1015646    2       

Против монополии: Apple получила патент на поисковый алгоритм

Новость ИТ-новость Новости компаний

Apple начала активно разрабатывать собственную поисковую систему. Из-за возможных антимонопольных санкций США против Google компания Тима Кука может лишиться возможности пользоваться сервисами поискового гиганта.

11.01.2021    954    VKuser24342747    0       

FreeBSD перевела репозиторий на Git

Новость Linux GitHub ИТ-новость

FreeBSD откажется от использования системы контроля версий Subversion (SVN) и перейдет на Git. Об этом в рассылке объявил разработчик Уорнер Лош.

30.12.2020    1549    user1015646    0       

Вышла бета-версия Go 1.16

Новость ИТ-новость Языки программирования

Предстоящее обновление языка программирования Go 1.16 с открытым исходным кодом включает поддержку процессора Apple, улучшения базовой библиотеки и среды выполнения. Релиз стабильной версии намечается на февраль 2021 года.

30.12.2020    2191    SKravchenko    0       

Microsoft позволит создавать пользовательские функции в Excel

Новость Infostart Software Partners Маркет

В Excel появилась новая функция – LAMBDA – для превращения пользовательских формул в многоразовые функции. Пользователи смогут создавать правила для управления данными внутри Excel, так же, как и в любом другом языке – Java, PHP или Python.

29.12.2020    2512    SKravchenko    2       

Microsoft и МТС планируют совместно развивать российский интернет вещей

Новость ИТ-новость Телекоммуникации Цифровая экономика

МТС и Microsoft договорились совместно развивать российский интернет вещей путем интеграции платформы для разработки решений интернета вещей Microsoft Azure IoT Central и сети интернета вещей NB-IoT МТС.

28.12.2020    1383    user-programmist    1       

Bloomberg оценил компанию JetBrains в $7 млрд

Новость ИТ-новость

По данным Bloomberg Billionaires Index, стартап JetBrains стоит около 7 млрд. долларов. В отличие от технологических компаний, которые продают акции для поддержки развития, руководители JetBrains не полагаются на средства венчурных капиталистов.

28.12.2020    1468    SKravchenko    0       

Cloudflare станет хостинг-провайдером для статических сайтов JAMstack

Новость Интернет ИТ-новость

Cloudflare запустила сервис Pages для создания сайтов при помощи подхода JAMstack. Веб-ресурсы, разработанные при помощи платформы, будут опубликованы в существующей сети провайдера CDN.

25.12.2020    1316    VKuser24342747    0       

GitHub откажется от аутентификации по логину и паролю

Новость GitHub ИТ-новость

Крупнейший хостинг репозиториев кода GitHub пересмотрит политику аутентификации. Пароли перестанут поддерживать – их полностью заменят токены и SSH-ключи.

24.12.2020    1478    user1015646    2       

В Telegram появятся платные функции

Новость ИТ-новость Мессенджеры

Основатель Telegram Павел Дуров рассказал о будущем мессенджера. Команда разработчиков планирует внедрить платные функции, чтобы компенсировать расходы на развитие сервиса.

23.12.2020    1801    user1015646    0       

Составлен рейтинг приложений для предустановки на смартфоны и умные ТВ

Новость Импортозамещение ИТ-новость

Минцифры опубликовало рейтинг приложений, которые с большой вероятностью будут рекомендованы для предустановки на смартфоны и Smart TV. Самые популярные варианты в различных категориях отобрали из более чем 100 заявок от разработчиков.

23.12.2020    1577    user1015646    4