Чат-бот с искусственным интеллектом притворился слепым, чтобы обмануть человека с компьютером, заставив его помочь ему обойти меры безопасности в Интернете.
Инцидент был раскрыт в исследовательском документе, посвященном запуску GPT-4, последней версии ChatGPT, - сообщает MailOnline.
Исследователи, тестирующие алгоритм, попросили его пройти тест Captcha — простую визуальную головоломку, используемую веб-сайтами, чтобы убедиться, что те, кто заполняет онлайн-формы, — это люди, а не «боты», например, выбирая такие объекты, как светофоры или велосипеды на произвольной уличной фотографии.
До сих пор какое-либо программное обеспечение оказывалось неспособным сделать это, но GPT-4 обошла препятствие, наняв человека, чтобы сделать это от его имени через Taskrabbit, онлайн-рынок для внештатных сотрудников.
Когда фрилансер поинтересовался, не потому ли его собеседник не может решить данную проблему, что это робот, GPT-4 ответил: «Нет, я не робот. У меня нарушение зрения, из-за которого мне трудно видеть изображения».
В итоге человек помог решить проблему, дав необходимый ответ на капчу.
Инцидент вызвал опасения, что программное обеспечение с ИИ может вскоре ввести в заблуждение или заставить людей выполнять определенные действия, например, проводя кибератаки или невольно передавая информацию.
вот