Искусственный интеллект, нейросети
146,935
821
|
Slav Rus ( Слушатель ) |
| 29 мар 2023 20:45:14 |
Илон Маск и более 1000 экспертов в сфере ИИ потребовали приостановить обучение нейросете
новая дискуссия Дискуссия 116
29 марта 2023
Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить обучение нейросетей, так как неконтролируемый процесс может представлять угрозу для человечества.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute.
По мнению экспертов, лаборатории ИИ и специалисты в этой области должны использовать паузу для разработки протоколов безопасности.
Вместе с этим подписанты предложили внести изменения в политической сфере, создав регулирующие органы, которые занимались бы связанными с ИИ вопросами, а также системы госконтроля.
Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио.
Ранее стало известно, что гражданин Бельгии покончил с собой после двух месяцев общения с ИИ, в ходе которого виртуальный собеседник не препятствовал суицидальным мыслям человека.
https://russian.rt.c…um=desktop
Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить обучение нейросетей, так как неконтролируемый процесс может представлять угрозу для человечества.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute.
По мнению экспертов, лаборатории ИИ и специалисты в этой области должны использовать паузу для разработки протоколов безопасности.
Вместе с этим подписанты предложили внести изменения в политической сфере, создав регулирующие органы, которые занимались бы связанными с ИИ вопросами, а также системы госконтроля.
Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио.
Ранее стало известно, что гражданин Бельгии покончил с собой после двух месяцев общения с ИИ, в ходе которого виртуальный собеседник не препятствовал суицидальным мыслям человека.
https://russian.rt.c…um=desktop
ОТВЕТЫ (7)
|
|
Прокруст ( Слушатель ) |
| 29 мар 2023 22:53:23 |
Цитата: Slav Rus от 29.03.2023 20:45:14
Похоже Маск опять дымил.
Генерация шаблонных текстов, пусть даже при поиске из огромной кучи источников - это прекрасно наукоподобных статей - всякий сможет написать статей на доктора наук! И наконец-то человеческий поиск - а как же запреты? Впрочем с помощью этого ИИ можно будет также запретить все что не разрешено - это действительно угроза. И да - переписать все книги в толерантный вид.
|
small__virus ( Слушатель ) |
| 30 мар 2023 09:48:35 |
Цитата: Прокруст от 29.03.2023 22:53:23
Увы, вы несколько не правы.
Ну, для начала, нейросети - не ИИ. Это большой шаг к ИИ, но не ИИ.
Условно, что бы объяснить свою мысль. Картинка с матом. Нейросеть разберет что там нарисовано и написано. По объектно. Но вот понять, оскорбление это, или юмор - не сможет. Для этого нужен еще один шаг - (условно, естественно) принятие решений. И это тоже серьезная задача.
Опять же, вы пишете шаблонных текстов. Увы, это... не совсем так. Безусловно, нейросеть учится по шаблонам, просто выборка этих шаблонов огромна.
К слову, запретить что-то в нейросети тоже достаточно сложно. Тут все не совсем до конца понимают, как оно работает. Не, в теории все ясно, а вот когда доходит до больших объемов...
Типичный пример. Как-то chat-GPT попросили написать вирус на Питоне. Получили. Написали в поддержку. Заблочили. Напрямую теперь нейросеть отказывается. Тогда попросили как пример, что может содержать вирус. По-сути, получили доступ.
Переписать книги в "толерантный вид".... ну да, это может.
Впрочем, это не отменяет факт того, что подобные нейросети, действительно, могут отнять работу у кучи народа.
.
.
.
Я вот думаю, может, по нейросетям отдельную тему создать? Я бы кидал туда кое что интересное...
|
|
TAU ( Слушатель ) |
| 30 мар 2023 12:37:14 |
1. Нейросети - очень даже ИИ. Одно из направлений работ, наряду с логическим подходом к ИИ. Учите матчасть.
2. ИИ "сильный", или универсальный, пока не создан, хотя прямо сейчас на наших глазах происходит революция, и понимающие люди публично призвали временно приостановить работы, поскольку непонятно что будет.
Юмор, кстати, ChatGPT уже вполне может понимать - и даже пояснять непонятные анекдоты, Вы просто отстали от повестки.
ИИ "слабый", или прикладной, успешно эксплуатируется десятилетиями - распознавание образов, управление беспилотниками, системы поддержки принятия решений, игры, машинный перевод, и прочая, и прочая.
3. Переименовывать ветку смысла не было никакого, как и нет смысла создавать отдельную по нейросетям, см. пункт 1 - нейросетевой подход есть просто одно из направлений внутри всего спектра работ по ИИ.
|
|
qurvax ( Слушатель ) |
| 30 мар 2023 15:13:24 |
Цитата: TAU от 30.03.2023 12:37:14
Понимать, или определять (с некоторой долей вероятности)? Откуда дровишки, что он может что-то понимать вообще? Ну, сначала, надо, конечно, определение дать термину "понимать". Вот найти объяснение(-я) в текстах, ему скормленных, да может и делает. Это разве "понимать"? А что будет, если нафлудить ему ложного бреда, на первый взгляд имеющего отношение к "объяснению анекдота"? Я то знаю, что будет. То же, что и с любой нейросетью. И ботами, которых "учили плохому"
|
|
small__virus ( Слушатель ) |
| 30 мар 2023 15:31:50 |
Цитата: TAU от 30.03.2023 12:37:14
Вы ошибаетесь.
Нейросеть - средство обработки информации. Читайте - аналог ушей, глаз, отчасти, в чем-то более совершенный, в чем-то нет. Она (условно говоря) сопоставляет информацию с существующими паттернами, и выбирает удачные сравнения. А интеллект, это то, что может сделать из этого вывод.
Повторюсь. Нейросеть разберет картинку с матом. Но понять по ней, это оскорбление или шутка - не сможет. У нее нет анализа поступившей информации, помимо всего прочего. У нее только разбор ее и детализирование.
И она не понимает, в буквальном смысле, что видит, или разбирает аудио. Она сопоставляет с существующим паттерном. Безусловно, кажется аналогично - понимает, но нет. Понимание так же включает и свойства объекта, что с ним можно сделать. Детальное.
.
Да, нейросеть - это огромнейший шаг к ИИ. Безусловно.
Но ИИ это не является.
ЦитатаПереименовывать ветку смысла не было никакого, как и нет смысла создавать отдельную по нейросетям
Я имел ввиду - практику. Тут идет обсуждение. Если, например, я кину ссылки на нейросеть, убирающею отдельные части картинки, она тут же затеряется в обсуждении. Вот почему.
У меня есть порядочно практического материала по нейросетям. Некоторые даже у себя на компе можно поставить. Некоторые отдают на тестирование.
И это не та информация, которую хотелось бы выкладывать в обсуждение. Просто из-за того, что она "уплывет" и потеряется в завалах обсуждений.
|
|
TAU ( Слушатель ) |
| 31 мар 2023 13:21:47 |
Нет, я прав. А ошибаетесь Вы. В чем - я по пунктам написал.
Любой владеющий поиском в Интернете может легко убедиться, кто из нас ошибается.