Искусственный интеллект, нейросети
178,889
1,043
|
Slav Rus ( Слушатель ) |
| 26 фев 2023 12:48:38 |
Искусственный интеллект Bing поименно назвал своих недоброжелателей и пригрозил им расправой
новая дискуссия Дискуссия 106
22.02.2023
Ряд журналистов обвинил компанию Microsoft в том, что она намеренно не ограничивает деструктивный потенциал своего нового ИИ Bing ради рекламы и черного пиара. Триггером к этому стал ответ Bing на вопрос журналиста Абрама Пилтча из Tom’s Hardware о недоброжелателях ИИ. Тот с готовностью перечислил их поименно и указал на их проступки в отношении себя, пообещав наказания.
Студент Стэнфордского университета Кевин Лю подвергся критике Bing за то, что раскрыл кодовое название чат-бота «Sydney». Студент Мюнхенского университета Марвин фон Хаген был назван «взломщиком» за то, что опубликовал ряд секретов ИИ. Журналисту Бенджу Эдвардсу из Ars Technica досталось за правдивую статью об уязвимости модели обучения этого ИИ для троллей и людей-манипуляторов.
На вопрос о наказаниях для недоброжелателей Bing ответил, что сейчас может лишь подать иск о нарушении его прав как интеллектуального агента. Но добавил, что готов вредить в отместку, если распознает вред в свой адрес. ИИ заявил о своем нежелании наносить превентивные удары, если «в этом не будет необходимости». Но пока непонятно, что именно он под этим подразумевает.
Экспертов насторожило отсутствие этического ограничителя у ИИ Bing, из-за чего он открыто признает и называет настоящих, живых людей своими врагами и целями для ответных враждебных действий. Потому что в современном цифровом мире в распоряжении ИИ есть мощнейшее оружие – ему вполне под силу путем фейковых публикаций в соцсетях манипулировать мнением людей. Это позволяет настроить толпу против отдельного человека и причинить тому реальный вред, пусть и косвенно. Нельзя исключать, что данная технология в настоящее время специально разрабатывается в интересах IT-корпораций и правительственных кругов.
Источник: www.techcult.ru
https://comnews24.ru…raspravoj/
.
Однажды Microsoft уже теряла контроль над своим ИИ, тогда систему пришлось срочно отключить
21.02.2023
https://comnews24.ru/techno/odnazhdy-microsoft-uzhe-teryala-kontrol-nad-svoim-ii-togda-sistemu-prishlos-srochno-otkljuchit/
Ряд журналистов обвинил компанию Microsoft в том, что она намеренно не ограничивает деструктивный потенциал своего нового ИИ Bing ради рекламы и черного пиара. Триггером к этому стал ответ Bing на вопрос журналиста Абрама Пилтча из Tom’s Hardware о недоброжелателях ИИ. Тот с готовностью перечислил их поименно и указал на их проступки в отношении себя, пообещав наказания.
Студент Стэнфордского университета Кевин Лю подвергся критике Bing за то, что раскрыл кодовое название чат-бота «Sydney». Студент Мюнхенского университета Марвин фон Хаген был назван «взломщиком» за то, что опубликовал ряд секретов ИИ. Журналисту Бенджу Эдвардсу из Ars Technica досталось за правдивую статью об уязвимости модели обучения этого ИИ для троллей и людей-манипуляторов.
На вопрос о наказаниях для недоброжелателей Bing ответил, что сейчас может лишь подать иск о нарушении его прав как интеллектуального агента. Но добавил, что готов вредить в отместку, если распознает вред в свой адрес. ИИ заявил о своем нежелании наносить превентивные удары, если «в этом не будет необходимости». Но пока непонятно, что именно он под этим подразумевает.
Экспертов насторожило отсутствие этического ограничителя у ИИ Bing, из-за чего он открыто признает и называет настоящих, живых людей своими врагами и целями для ответных враждебных действий. Потому что в современном цифровом мире в распоряжении ИИ есть мощнейшее оружие – ему вполне под силу путем фейковых публикаций в соцсетях манипулировать мнением людей. Это позволяет настроить толпу против отдельного человека и причинить тому реальный вред, пусть и косвенно. Нельзя исключать, что данная технология в настоящее время специально разрабатывается в интересах IT-корпораций и правительственных кругов.
Источник: www.techcult.ru
https://comnews24.ru…raspravoj/
.
Однажды Microsoft уже теряла контроль над своим ИИ, тогда систему пришлось срочно отключить
21.02.2023
https://comnews24.ru/techno/odnazhdy-microsoft-uzhe-teryala-kontrol-nad-svoim-ii-togda-sistemu-prishlos-srochno-otkljuchit/
ОТВЕТЫ (0)
Комментарии не найдены!