Искусственный интеллект, нейросети
146,887
821
|
неКони ( Слушатель ) |
| 29 мар 2023 15:12:09 |
Илон Маск и более 1000 экспертов в сфере ИИ потребовали приостановить обучение нейросетей
новая дискуссия Новость 1.685
Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить обучение нейросетей, так как неконтролируемый процесс может представлять угрозу для человечества.
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute.
По мнению экспертов, лаборатории ИИ и специалисты в этой области должны использовать паузу для разработки протоколов безопасности.
Вместе с этим подписанты предложили внести изменения в политической сфере, создав регулирующие органы, которые занимались бы связанными с ИИ вопросами, а также системы госконтроля.
Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио.
https://russian.rt.c…um=desktop
«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute.
По мнению экспертов, лаборатории ИИ и специалисты в этой области должны использовать паузу для разработки протоколов безопасности.
Вместе с этим подписанты предложили внести изменения в политической сфере, создав регулирующие органы, которые занимались бы связанными с ИИ вопросами, а также системы госконтроля.
Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио.
https://russian.rt.c…um=desktop
ОТВЕТЫ (73)
|
bb1788 ( Практикант ) |
| 29 мар 2023 15:17:09 |
Сообщение удалено
bb1788
05 июл 2023 13:28:48
bb1788
05 июл 2023 13:28:48
Отредактировано: bb1788 - 05 июл 2023 13:28:48
|
Blaher ( Слушатель ) |
| 29 мар 2023 17:00:30 |
"для преодоления драматических экономических и политических потрясений (особенно для демократии), которые вызовет искусственный интеллект."
-"Демократии" запереживали что их спамботы не смогут отвечать верно на вопрос "почему золотой миллиард должен кушать лучше" )
-"Демократии" запереживали что их спамботы не смогут отвечать верно на вопрос "почему золотой миллиард должен кушать лучше" )
|
|
_Raven_ ( Слушатель ) |
| 29 мар 2023 22:02:59 |
Цитата: неКони от 29.03.2023 15:12:09
Ну да, конечно. Прямо таки угроза для человечества. Просто, пока нейросети обучались на том, что было произведено людьми - эти алгоритмы более-менее работали. Но сейчас значительная часть контента - это результат деятельности нейросетей же. Обучение на таком материале становится все более и более сомнительным, а лишаться такого инструмента корпорации не хотят. Собственно в этом и смысл данного послания.
|
l-mik ( Слушатель ) |
| 29 мар 2023 23:42:45 |
Цитата: _Raven_ от 29.03.2023 22:02:59
Недавно была новость о нейросети с доступом в Интернет, которая, чтобы попасть на сайт, защищённый капчой, наняла волонтера-человека на специализированном ресурсе.
И нас регулярно пугают хакерами, которые не взрывают наши заводы только потому, что наши хакеры тогда сделают тоже самое с их заводами-пароходами.
Т. е. с одной стороны, человеческая цивилизация очень уязвима из-за интернет, а с другой, появляются нейросети без морали, с неограниченными возможностями в этом интернет.
Как тут не забеспокоиться?
|
Поверонов ( Слушатель ) |
| 30 мар 2023 00:41:32 |
Цитата: _Raven_ от 29.03.2023 22:02:59
Отдельные случаи показывают что за пределами обучающей последовательности ИИ выдают непредсказуемые результаты, которые невозможно контролировать. Пока что ИИ пасутся в безобидных областях применения типа "хочешь об этом поговорить", но разработчики уже получают деньги для разработки оружия на базе ИИ. В какой мере соблюдаются при этом меры безопасности остается за кадром. Человечество шаг за шагом приближается к ситуации ядерного апокалипсиса по причине неверного срабатывания ИИ
|
|
bb1788 ( Практикант ) |
| 30 мар 2023 08:34:13 |
Сообщение удалено
bb1788
05 июл 2023 13:28:33
bb1788
05 июл 2023 13:28:33
Отредактировано: bb1788 - 05 июл 2023 13:28:33
|
adolfus ( Слушатель ) |
| 30 мар 2023 10:50:59 |
Цитата: Поверонов от 30.03.2023 00:41:32
Это не отдельные случаи, а имеющий место всегда эффект экстраполяции – в пределах интервала, на котором рассчитывались (в случае нейросетей – подбирались) параметры экстраполянта все более-менее прилично, а за пределами все очень быстро расходится.
Нейросети -- это просто множество (набор) пересекающихся гиперповерхностей (дискриминантных функций), разбивающих пространтсво признаков на многомерные "ячейки". "Обучение" нейросетей – это подбор таких параметров у этих гиперповерхностей, чтобы элементы обучающего множества, обладающие определенными информативными признаками попадали в "правильные" ячейки, образованные пересечением этих гиперповерхностей. То есть многомерная апроксимация в чистом ее виде, минимизирующая меру отклонения того распределения признаков по ячейкам, которое получается при варьировании параметров гиперповерхностей, от требуемого распределения.
Все. Там больше ничего нет кроме того, что эту аппроксимацию называют классификацией. Соответственно, как только предъявлен элемент, информативные признаки которого выходят за выпуклую оболочку обучающего множества, классификация дает сбой. Это как в случае аппроксимации полиномом фиксированного порядка – внутри интервала все пучком, а вне полная задница. Увеличиваем порядок – внутри интервала ошибка аппроксимации уменьшается, но санружи катастрофически растет. Так же и при обучении – увеличиваем порядок обучающего множества – внутри его выпуклой оболочки классификатор работает точнее, а вне ее – не работает совсем. В обоих случаях оптимальная аппроксимация достигается при некотором значении порядка – в случае полинома это его порядок, а в случае сети – это порядок обучающей выборки. Увеличение порядка выше оптимального приводит к ухудшению аппроксимации внутри интервала/выпуклой оболочки. В нейросетях это называется "переобучение".
Людям, далеким от математики все это подают как что-то необыкновенное и сверхвыдающееся, хотя там внутри обычная математика общего университетского курса. Те, кто продвигает нейросети, как это обычно имеет место и вдругих хайповых областях, делятся на мерзавцев и глупцов, окучивающих по методичкам мерзавцев остальных лохов.
Без АУ и АС
|
|
dmitriк62 ( Слушатель ) |
| 30 мар 2023 11:03:26 |
Цитата: adolfus от 30.03.2023 10:50:59
Ну да, один-в-один как предыдущий хайп с "экспертными системами".
Та же примитивная математика, только сложность растёт помедленнее, что позволяет на убыстрившихся компьютерах иногда отличить кошку от человека.
Те же безумные заявления о "скором преодолении умственного уровня умнейших людей".
Компьютеры научились галлюцинировать, как человек — до умения думать ещё как до луны раком.
Удивлюсь, если лет через 40 удастся достичь интеллекта таракана...
|
Радонеж ( Практикант ) |
| 30 мар 2023 11:17:44 |
Цитата: dmitriк62 от 30.03.2023 11:03:26
Уже нейропроцессоры специализированные выпускают и ИИ проходят тест Тьюринга, а вы всё себя успокаиваете. Вы себе представляете насколько эффективнее будет "думать" машина, которая одновременно может оперировать не 7 (как человек), а 7
|
|
dmitriк62 ( Слушатель ) |
| 30 мар 2023 11:28:38 |
Цитата: Радонеж от 30.03.2023 11:17:44
Ну что же, продолжайте верить журналистскому бреду.
"Ради красного словца заасфальтирует и отца".
А я подожду, пока появится хотя бы приблизительное понимание, что же такое разум — а уж потом посмотрю, как это понимание удастся засунуть в компьютер.
|
|
Радонеж ( Практикант ) |
| 30 мар 2023 11:34:18 |
Цитата: dmitriк62 от 30.03.2023 11:28:38
Подождите еще несколько лет. Создадут общими усилиями базы данных по всем наукам, которыми бы смог пользоваться ИИ, тогда точность и достоверность ответов радикально вырастут. Не обязательно полностью понимать как работает "мясной" разум. Можно худо-бедно имитировать "железный" разум, но лишенный ограничений по вычислительным ресурсам. Алгоритмы, логика мышления известны. Короче говоря, можно все свести к математике, а там у машин проблем нет.
|
|
qurvax ( Слушатель ) |
| 30 мар 2023 12:20:33 |
Цитата: Радонеж от 30.03.2023 11:34:18
Ну тут я уже не удержался...
"Базы данных" по всем наукам, говорите? А вы сами как, пробовали эти самые "базы", читать? Ну там учебники, мануалы, научные работы может даже? При решении реальных задач, всмысле, а не просто "в одно ухо вошло, из другого вылетело". Могу рассказать про айти или электронику. Какой к мамке ИИ, тут реально понимающий в теме и имеющий опыт спец иногда так закопается... Где-то чето устарело, где-то чето с ошибкой (которую видно, если понимать "вглубь), где-то чето китаец в словах потерялся, а где-то недокументировано... Основное направление развития "технологий ИИ" сегодня - это как впихнуть человеческий бардак в машину и не получить на выходе тоже бардак. Ну и порномультики рисовать еще.
|
|
bb1788 ( Практикант ) |
| 30 мар 2023 12:57:33 |
Сообщение удалено
bb1788
05 июл 2023 13:28:24
bb1788
05 июл 2023 13:28:24
Отредактировано: bb1788 - 05 июл 2023 13:28:24
|
|
Поверонов ( Слушатель ) |
| 30 мар 2023 12:38:52 |
Цитата: Радонеж от 30.03.2023 11:34:18
Что-то это напоминает мне японский проект компьютеров V поколения, разговаривающих на натуральных языках
Компьютеры пятого поколения
ЦитатаШирокомасштабная правительственная программа в Японии по развитию компьютерной индустрии и искусственного интеллекта была предпринята в 1980-е годы. Целью программы было создание «эпохального компьютера» с производительностью суперкомпьютера и мощными функциями искусственного интеллекта[1]. Начало разработок — 1982, конец разработок — 1992, стоимость разработок — 57 млрд ¥ (порядка 500 млн $). Программа закончилась провалом, так как не опиралась на чёткие научные методики, более того, даже её промежуточные цели оказались недостижимы в технологическом плане.
|
|
кость ( Слушатель ) |
| 30 мар 2023 11:40:39 |
Цитата: dmitriк62 от 30.03.2023 11:28:38
Точного понимания что такое фотон, к примеру, пока тоже нет.
И какое-то, оооочень продолжительное время не было ничего равного сложности, устройству и красоте человеческого глаза и зрения.
А потом человек придумал несовершенную подзорную трубу, позволяющую видеть мутненько немного дальше вдаль. Потом придумали приборы ночного зрения. Тепловизоры придумали люди. Приборы, позволяющие видеть далеко за пределами человеческих возможностей. А про фотон ничего определенного и абсолютно точного до сих пор неизвестно. Но пнв и бинокли мы использовать будем. Полезные и удобные штуки это. Как и возможности уже нынешнего ИИ.
|
|
dmitriк62 ( Слушатель ) |
| 30 мар 2023 12:23:27 |
Цитата: кость от 30.03.2023 11:40:39
Что же, и экспертные системы для чего-то использовались.
И нынешние многомерные классификаторы пытаются для чего-то использовать, иногда даже с пользой.
Называется "слабый ИИ".
Даже простые механические часы отмеряют время точнее, чем самый умный академик, но никто же делает вывода "часы завладеют миром"?
И причём тут "разум" — разобрать невозможно.
|
|
User78 ( Слушатель ) |
| 30 мар 2023 12:00:43 |
Цитата: dmitriк62 от 30.03.2023 11:28:38
Зря недооцениваете нейросети. Например, они уже могут сгенерировать картину на любую заданную тему не хуже чем многие современные художники. И это по нынешним алгоритмам и мощностям. Еще нейросети могут писать стихи, песни, музыку. А также нейросети могут писать программы - задаешь желаемый результат, а ИИ уже методом умного перебора и оптимального выбора пишет код. Ещё недавно считалось, что творчество - это прерогатива человека, хотя творческий поиск у многих творцов включает в себя изучение опыта других людей и потом на основе знаний генерация чего-то нового (чем и занимаются нейросети, только изучая опыт не единиц, а миллионов и даже миллиардов людей). То же написание стихов - это зачастую мучительный перебор разных вариантов для попадания в рифму. Осмысленный текст ИИ может написать, перебрать миллионы вариантов рифм тоже может, и даже может сравнить стилистику стихов.
Безусловно, ИИ не сможет решать все задачи, но ведь значительная часть работ на Земле не требует большого интеллекта. 95% современных креатифных блохеров, контентщиков, журнализдов, художников, писателей, поэтов, композиторов и т.д. точно сможет заменить ИИ, тем более водителей, коллцентры и др.
Я уж молчу про такие возможности как создание фейковой реальности - ИИ уже сейчас может создавать дипфейковые видео, идеально копировать голос. Теперь намного легче будет делать набросы в инфопространстве, легче подставить кого-то, а суду будет сложнее использовать аудио-видео материалы как доказательства чего-либо.
.
.
.
|
|
dmitriк62 ( Слушатель ) |
| 30 мар 2023 12:29:28 |
Цитата: User78 от 30.03.2023 12:00:43
А ещё недавно считалось, что только после 5 курсов математического факультета только особо одарённый индивид может перемножать числа столбиком, но потом изобрели арифмометр.
Какое отношение это имеет к "интеллекту"?
Вы сами-то пробовали попросить ИИ написать программу?
Такой беспомощный бред не породит и малолетний погромист из индийского ПТУ...
Кстати, вполне возможно, что написание стихов и философских трактатов к области "интеллекта" тоже не относится...
|
|
qurvax ( Слушатель ) |
| 30 мар 2023 12:29:52 |
Цитата: User78 от 30.03.2023 12:00:43
Что касаемо написания программ - тестировали. Результат, как и предсказывали многие - былинный отказ.
Что касаемо рисования
Что касаемо осмысленного текста - Для осмысленного текста, его, текст, надо осмыслить (опа, да?) До такого техника еще ниразу не дошла
Получасовое общение с найсовременнейшим ботом это вскрывает на раз-два. Тема, кстати, была то самое программирование. Кстати, для кодогенерации ИИ не нужен. Она давно существует и применяется, там, где это имеет смысл.
|
|
Поверонов ( Специалист ) |
| 30 мар 2023 13:00:55 |
Цитата: User78 от 30.03.2023 12:00:43
Нет возражений - в создании фейков ИИ заметно продвинулись и смогут подменить почти весь ( само- )рекламный контент, а это 95% потребителей ( придурков )
|
ivan2 ( Слушатель ) |
| 30 мар 2023 13:08:10 |
Цитата: Поверонов от 30.03.2023 13:00:55
Ну вот и пришли к окончательной бессмысленности второй вечной профессии, профессии газетчика, профессии журналиста. Развенчана власть печатного слова.
Правка - Я ещё помню американское кино, когда журналист расследовал вместе с молодой начинающей коллегой злоупотребления своего друга во власти. И подарил ей в конце ожерелье из авторучек.
Эх, молодость, наивность...
|
|
bb1788 ( Практикант ) |
| 30 мар 2023 13:19:28 |
Сообщение удалено
bb1788
05 июл 2023 13:28:22
bb1788
05 июл 2023 13:28:22
Отредактировано: bb1788 - 05 июл 2023 13:28:22
|
KZR ( Слушатель ) |
| 30 мар 2023 11:46:57 |
Цитата: Радонеж от 30.03.2023 11:17:44
Это когда? События эпохальное, но упоминания только в желтушных источниках. Или было что авторы теста и авторы ИИ, были одни и те же, т.е. бот заточенный под тест.
|
|
bb1788 ( Практикант ) |
| 30 мар 2023 11:54:06 |
Сообщение удалено
bb1788
05 июл 2023 13:28:26
bb1788
05 июл 2023 13:28:26
Отредактировано: bb1788 - 05 июл 2023 13:28:26
|
|
Поверонов ( Слушатель ) |
| 30 мар 2023 12:21:24 |
Цитата: Радонеж от 30.03.2023 11:17:44
"Тест Тьюринга" сугубо субъективен - надо найти придурков не способных отличить машину от человека. Да спроси у нее сколько в ней Гигов памяти - либо соврет, либо признается - тест не прошла ( врать нельзя в. тесте )
PS Так пусть и продвигают науку ( достижений об этом не слышно ), а не летальные военные технологии
|
Vick ( Практикант ) |
| 30 мар 2023 12:54:06 |
Цитата: qurvax от 30.03.2023 11:47:41
Адекватность принятия решений в конкретной ситуации. Вам ещё чего-то подавай? Правда, адекватность бывает "с какой кочки посмотреть". Сиюсекундная адекватность не ровня адекватности решения на перспективу.
|
|
qurvax ( Слушатель ) |
| 30 мар 2023 12:58:19 |
Цитата: Vick от 30.03.2023 12:54:06
Define "адекватность", позязя. А то все кажуться вокруг адекватными, пока на тему, в которую ты углублен чуть более "всех", писать не начинают
|
|
Vick ( Практикант ) |
| 30 мар 2023 13:13:43 |
Цитата: qurvax от 30.03.2023 12:58:19
И кто ж у нас не углюбюлён в тему "интелехт"? Терминами "дурак" и "умный" все владеют. Но есть те, кто даже тут из кожи лезут, чтобы свою доминантность якобы "интеллектуальную" застолбить. Оне де "углублены" и имеют право чё-то там писать в отличие от "незаглублённых".
|
Igor_FF ( Практикант ) |
| 30 мар 2023 13:03:49 |
Цитата: Vick от 30.03.2023 12:54:06
Любое решение в конкретной ситуации адекватно. Вопрос только один: адекватно чему?
|
|
bb1788 ( Практикант ) |
| 30 мар 2023 13:23:01 |
Сообщение удалено
bb1788
05 июл 2023 13:28:20
bb1788
05 июл 2023 13:28:20
Отредактировано: bb1788 - 05 июл 2023 13:28:20
|
|
Vick ( Практикант ) |
| 30 мар 2023 13:27:14 |
Цитата: bb1788 от 30.03.2023 13:23:01
Оценщик – сама система, поставившая себе цель. А сторонние подсматривающие – это проблемы их вселенных.
|
rimskiy ( Слушатель ) |
| 30 мар 2023 13:15:54 |
Цитата: Vick от 30.03.2023 12:54:06
.
Не, не годится. Нужно различать интеллект, то есть рассудок, который оперирует абстракциями, не вникая в их содержание и действует по алгоритму. И разум, который способен выдавать новые идеи не следующие дедуктивно из знания, он может создавать новую логику.
.
|
|
Vick ( Практикант ) |
| 30 мар 2023 13:24:00 |
Цитата: rimskiy от 30.03.2023 13:15:54
Годится. Вы навешали уже много лишнего и производного. "Нужно различать"... Не нужно, если вопрос поставлен тупо – "а ну скажите мне, что такое интеллект". Как с фотоном – квант электромагнитного излучения. Всё, собственно. Этого достаточно для общего понимания. Ну, ещё необходимо понимать, что "квант" – это минимально возможная (уже далее неделимая) порция чего либо.
|
johnsib ( Слушатель ) |
| 30 мар 2023 13:24:02 |
Цитата: qurvax от 30.03.2023 11:47:41
"Разум" и "интеллект" , пожалуй , разные измерения "живого". Скажем, человек может и не быть интеллектуалом, но разумным всё равно является.
Разум - это сложившаяся архитектура нейронных связей в мозге, образовавшихся путём получения информации от органов чувств по 8-10 типам ощущений. Это сенсорное измерение, пересекающееся с чувствами, ощущением обьема окружающего мира.
Интеллект - это комбинация знаний, усвоенная поверх "разумности" , позволяющая вести бытовое существование.
Рефлексы (условные и безусловные) - заложенные в процессе эволюции реакции , в том числе и химические, на уровне нервной системы.
Так вот в основе лежат "рефлексы", в процессе жизни человека на них наслаивается "разумностью", и только сверху это все шлифуемая "интеллектом".
ИИ сегодня в современном мире эллинки более чем интерактивная библиотека по двум типам чувств и то между собой не связанными: 1. Сортировка/оперирование графической информацией (видео и фото) и 2. Звук.
Текстовые файлы, которые анализирует и сортирует тот джпт, никак не подкреплены чувственным анализом - эти тексты для машины не имеют "объема". Поэтому ИИ в сегодняшнем виде это инструмент или прикладное увлечение.
Для примера. Для человека самые первые слова в жизни не имеют ни логического, ни интеллектуального смысла - он усваивает слово "Мама" физически ощущая тепло существа неисполнимая даже что это за существо на самом деле. Эта комбинация ощущений "Мама" для него и является смыслом слова "Мама". А дальше ощущение мире наслаивается другими терминами "солнце, трава, молоко" и т д. То есть на 100% базовые текстовые смыслы человеком усваиваются исключительно через чувства, и только потом для человека это все "оформляется" в слова, тексты, книги, знания.
Текстовый же "ИИ" это пустышка, оперирующая порядком слов, который она изучила перебором различных комбинаций.
Поэтому и интеллектом то это сложно назвать - просто "электронная сортировочная текстовая машина".
Единственное опасение которое оно вызывает лишь в том, что такая "машина" сможет оперировать текстом, визуальными и звуковым потоком в своей среде - в электронной среде. Да, сможет управлять механизмами, но больше заниматься пропагандой в социальном сегменте интернета. Просто создать свой фейковый плоский мир.
И даже если такой машинке добавить больше органов чувств (тактильные, ощущение пространства при передвижении) оно не станет разумом. Короче, искусственному интеллекту для очеловечивание и появления разума, необходимо минимум тело с набором органов чувств как у человека.. а это совершенно иной уровень и объём информации для обработки.
И я не понимаю почему БигТех во всем мире до сих пор не реализовал такие элементарные по сути решения.. если только они не преследуют создание человекоподобного, а думают исключительно как манипулировать людьми в соцсетях и сми в сети..
|
|
qurvax ( Слушатель ) |
| 30 мар 2023 11:39:42 |
Цитата: adolfus от 30.03.2023 10:50:59
Годный, хороший пост. "НС для самоваров, или распил очередного хайпотеха". Внутре, как всегда, неонка. Мне б уметь так выражаться...
|
|
Дмитрий_С ( Слушатель ) |
| 30 мар 2023 08:28:56 |
Цитата: неКони от 29.03.2023 15:12:09
А по мне, так это просто попытка создать контролирующий центр, расположенный в Америке, и заодно ввести свои правила для разработок в этой области. Ограничить, взять под контроль перспективные направления, возглавить... и всё это под соусом опасности для человечества. Ничего нового.