Искусственный интеллект, нейросети
178,881
1,043
|
Zkvxz ( Слушатель ) |
| 01 июн 2023 11:47:08 |
"Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом..."
новая дискуссия Дискуссия 685
Ещё одно открытое письмо с предупреждением о возможных негативных последствиях развития ИИ было опубликовано 30 мая. Оно состоит всего из 22 слов (на английском языке) и передаёт тревогу, которой хотели поделиться с аудиторией подписавшие обращение генеральный директор OpenAI Сэм Альтман, лауреаты премии Тьюринга Джеффри Хинтон и Йошуа Бенжио, главный научный сотрудник OpenAI Илья Суцкевер, генеральный директор DeepMind Демис Хассабис, а также эксперты и учёные из крупнейших университетов и технологических компаний. Список подписантов постоянно пополняется: сейчас там порядка 350 имён.
Текст письма опубликован на сайте Центра безопасности ИИ (Center for AI Safety или CAIS): «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерная война».
Arstechnica обращает внимание, что письмо появилось в тот момент, когда Сэм Альтман «путешествует по миру», встречаясь с главами государств и обсуждая перспективы развития ИИ и его потенциальные опасности. Перед этим Альтман выступал в Сенате США и ратовал за более серьёзное регулирование отрасли. Издание замечает, что это краткое заявление примечательно тем, чего в нём нет. Например, нет уточнений, что именно подразумевается под «ИИ»; также в письме нет решений для снижения рисков, только упоминание, что это должно стать «глобальным приоритетом».
Arstechnica цитирует экспертов, раскритиковавших письмо. Например, исследователь машинного обучения в Hugging Face доктор Саша Лучони считает, что авторы обращения выбрали «неверное направление», привлекая внимания общественности к одному (будущие риски), чтобы люди не думали о другом (осязаемые текущие риски)». «Это заставляет людей, подписывающих письмо, выглядеть героями истории, учитывая, что именно они создают эту технологию», — отмечает Лучони. Писатель и футуролог Дэниел Джеффрис назвал выступления, посвящённые рискам и вреду ИИ, «официальной статусной игрой, в которой каждый хочет вскочить на подножку, чтобы хорошо выглядеть»: ничего не стоит и звучит хорошо. «Попытки решить воображаемые проблемы завтрашнего дня — это пустая трата времени. Решите сегодняшние проблемы, и завтрашние проблемы будут решены, когда мы до них доберёмся».
Это не первое коллективное выступление против гипотетических опасностей ИИ. В марте этого года Future of Life Institute опубликовал заявление, подписанное в том числе и Илоном Маском, которое призывало к шестимесячной паузе в обучении моделей ИИ, «более мощных, чем GPT-4».
Хабр
Текст письма опубликован на сайте Центра безопасности ИИ (Center for AI Safety или CAIS): «Снижение риска вымирания из-за ИИ должно стать глобальным приоритетом наряду с другими социальными рисками, такими как пандемии и ядерная война».
Arstechnica обращает внимание, что письмо появилось в тот момент, когда Сэм Альтман «путешествует по миру», встречаясь с главами государств и обсуждая перспективы развития ИИ и его потенциальные опасности. Перед этим Альтман выступал в Сенате США и ратовал за более серьёзное регулирование отрасли. Издание замечает, что это краткое заявление примечательно тем, чего в нём нет. Например, нет уточнений, что именно подразумевается под «ИИ»; также в письме нет решений для снижения рисков, только упоминание, что это должно стать «глобальным приоритетом».
Arstechnica цитирует экспертов, раскритиковавших письмо. Например, исследователь машинного обучения в Hugging Face доктор Саша Лучони считает, что авторы обращения выбрали «неверное направление», привлекая внимания общественности к одному (будущие риски), чтобы люди не думали о другом (осязаемые текущие риски)». «Это заставляет людей, подписывающих письмо, выглядеть героями истории, учитывая, что именно они создают эту технологию», — отмечает Лучони. Писатель и футуролог Дэниел Джеффрис назвал выступления, посвящённые рискам и вреду ИИ, «официальной статусной игрой, в которой каждый хочет вскочить на подножку, чтобы хорошо выглядеть»: ничего не стоит и звучит хорошо. «Попытки решить воображаемые проблемы завтрашнего дня — это пустая трата времени. Решите сегодняшние проблемы, и завтрашние проблемы будут решены, когда мы до них доберёмся».
Это не первое коллективное выступление против гипотетических опасностей ИИ. В марте этого года Future of Life Institute опубликовал заявление, подписанное в том числе и Илоном Маском, которое призывало к шестимесячной паузе в обучении моделей ИИ, «более мощных, чем GPT-4».
Хабр
ОТВЕТЫ (5)
|
Системник ( Слушатель ) |
| 01 июн 2023 13:28:52 |
Цитата: Zkvxz от 01.06.2023 11:47:08
Ну просто классический развод в стиле Запада.
Сначала на ровном месте надуваем физически не существующий AI, потом запугиваем результатами его существования, потом указываем кому занести, чтобы ничего не было.
Браво!
|
|
Saigon09 ( Слушатель ) |
| 01 июн 2023 14:25:57 |
Цитата: Системник от 01.06.2023 13:28:52
Ещё как вариант: всему миру втирают, что АИ опасен не разрабатывайте его, а сами в тихую будут его пилить. Не удивлюсь тому, что скоро они закон через ООН будут пропихивать о запрете разработки АИ.
|
johnsib ( Слушатель ) |
| 01 июн 2023 15:00:30 |
Цитата: Saigon09 от 01.06.2023 14:25:57
Вот тоже сразу об этом подумал. И у них сегодня несколько таких "миролюбивых" призыва:
1. Переставайте жрать - сельское хозяйство ведёт к потеплению и вымиранию, ешьте водоросли и жучков.
2. Переставайте развивать атомную энергетику - видите ли реакторы могут нарабатывать оружейные компоненты и вообще Фукусима сплошная..
3. Прекращайте плодиться - много гендерность и гомосексуализм
4. Прекращайте верить во что угодно, изучать историю, делать выводы и мыслить логично - станьте скотиной безвольной, всё отрицайте! Философия "отмены"
5. Вот теперь "ужас и Армагеддон" от ии - не вздумайте его разрабатывать. И вообще приостановите разработке на пол года..))
Такое ощущение, что на западе готовы некие компоненты управления и системы автоматического планирования (моделирования) каких либо событий (на фин рынке, социальные процессы, потребительское поведение) , и они готовы через интернет запустить все это очень скоро. и им словно не хватает пол года-год для завершения и запуска этой системы.
Есть у меня подозрение, что к выборам в сша запустят некую цифровую машинку ии , которая будет фабриковать контент для манипуляций общественным мнением. Причём не только текстовый, как gpt чат , а фото- и видео ряд. И вот есть некие в этом контенте маркёры, которые позволяют идентифицировать это как фейк - и именно затормозить развитие противодействия таким машинкам в других странах это их главная цель, что бы никто не мог по этим маркёрам определять фейки.
Если планируешь массированную провокацию с использованием какой-то технологии, то необходимо громче всех кричать о вредности и запрете этой технологии у себя самого..
Вывод: мир перешёл окончательно в режим цифрового управления, и сегодня запад обкатывает по максимуму модель управления мнениями- зачем уничтожать физически заводы, склады, какие-то офисы или даже физически оппонентов - можно просто раскрутить в медиа нужную тебе повестку и управлять обществом изнутри.
Что делать?: вырубать к чертям всеобщий интернет. Необходима фрагментация информационного пространства.
|
slavae ( Слушатель ) |
| 02 июн 2023 09:31:49 |
Цитата: johnsib от 01.06.2023 15:00:30
Правильно, надо сделать Советский Союз, чтоб народ не знал ничерта, и вёл себя как дебил при столкновении с новым для него.
|
Kanonikos ( Слушатель ) |
| 06 июн 2023 16:22:04 |
Цитата: slavae от 02.06.2023 09:31:49
Что значит "народ не знал ничерта"? Вы черные мифы пересказываете, фу так мыслить.
Да будет вам известно, что Советский Союз был драйвером роста образованности и благосостояния не только внутри себя, но и снаружи. Если бы у коллективного Запада не было потребности в конкуренции с противоборствующей частью мира, то не было бы потребности ни в демократии, ни в среднем классе, ни в сколь-либо значимом потребительском прогрессе. Так что нравится вам это, или нет, но глобальное благосостояние достигнуто в том числе за счет существования в исторической ретроспективе нашей с вами (ну, моей - точно, может я зря за вас расписываюсь) Родины.
Не хотелось бы вас расстраивать, но сегментация мира на десяток замкнутых зон неизбежна. Это касается и экономики, и туризма, и... да, интернета тоже. Это может не нравиться, но это практически неизбежность. Открытого интернета не останется нигде в мире.