Понемножку обо всем
237,933
4,060
|
Хранитель Храма ( Слушатель ) |
| 20 авг 2022 15:41:09 |
ВЭФ предлагает глобальный план контроля онлайн-контента с использованием искусственного интеллекта
новая дискуссия Статья 246
ВЭФ предлагает глобальный план контроля онлайн-контента с использованием искусственного интеллекта
Майкл Неврадакис,
08/19/22
Предупреждая о “темном мире онлайн-вреда”, который необходимо устранить, Всемирный экономический форум (ВЭФ) в этом месяце опубликовал статью, призывающую к “решению” проблемы “онлайн-злоупотреблений”, которое будет основано на искусственном интеллекте (ИИ) и человеческом интеллекте.
В предложении содержится призыв к системе, основанной на ИИ, которая автоматизировала бы цензуру “дезинформации” и “разжигания ненависти” и работала бы над преодолением распространения “жестокого обращения с детьми, экстремизма, дезинформации, разжигания ненависти и мошенничества” в Интернете.
По словам автора статьи Инбал Голдбергер, человеческие “команды доверия и безопасности” сами по себе не в состоянии полностью контролировать такой контент в Интернете.
Голдбергер является вице-президентом ActiveFence Trust & Safety, технологической компании, базирующейся в Нью-Йорке и Тель-Авиве, которая утверждает, что “автоматически собирает данные из миллионов источников и применяет контекстный ИИ для обеспечения доверия и безопасности операций любого масштаба”.
Вместо того, чтобы полагаться исключительно на команды модераторов, Голдбергер предлагает систему, основанную на “управляемом человеком, многоязычном, внеплатформенном интеллекте” - другими словами, ввод, предоставляемый “экспертными” человеческими источниками, которые затем создадут “обучающие наборы”, которые обучат ИИ распознавать предположительно вредные или опасный контент.
Этот “внеплатформенный интеллект” - больше машинного обучения, чем ИИ как таковой, по словам Диди Ранкович из ReclaimTheNet.org — будет собираться из “миллионов источников”, а затем сопоставляться и объединяться, прежде чем использоваться для “принятия решений об удалении контента” со стороны “интернет-платформ”.
По словам Голдбергер, система дополнит “умное автоматическое обнаружение с использованием человеческого опыта” и позволит создать “ИИ с использованием человеческого интеллекта”.
Это, в свою очередь, обеспечит защиту от “все более продвинутых игроков, злоупотребляющих платформами уникальными способами”.
“Человек-модератор, который является экспертом в области превосходства белой расы в Европе, не обязательно сможет распознать вредоносный контент в Индии или дезинформационные повествования в Кении”, - объяснила Голдбергер.
Тем не менее, “Благодаря уникальному сочетанию возможностей инновационных технологий, сбора данных вне платформы и мастерства экспертов в данной области, которые понимают, как действуют субъекты угроз, масштабируемое обнаружение онлайн-злоупотреблений может достичь почти идеальной точности”, поскольку эти обучающие наборы со временем “внедряются” в ИИ, сказала Голдбергер.
Это, в свою очередь, позволит “группам доверия и безопасности” “предотвращать угрозы, возникающие в Интернете, прежде чем они достигнут пользователей”, добавила она.
В своем анализе того, как предложение Голдбергер может выглядеть на практике, блогер Игорь Чудов объяснил, как контроль контента в социальных сетях сегодня происходит на основе платформы за платформой.
Например, модераторы контента в Твиттере просматривают только контент, размещенный на этой конкретной платформе, но не контент пользователя, размещенный за пределами Твиттера.
Чудов утверждал, что именно поэтому ВЭФ, похоже, поддерживает предложение “выйти за рамки основных интернет-платформ, чтобы собирать информацию о людях и идеях повсюду”.
“Такой подход, — писал Чудов, - позволил бы им лучше знать, какого человека или идею подвергнуть цензуре - сразу на всех основных платформах”.
По словам Чудова, “разведданные”, собранные системой из “миллионов источников”, “обнаружат мысли, которые им не нравятся”, в результате чего “решения об удалении контента будут приниматься такими, как Twitter, Facebook и так далее ... что существенно изменит статус-кво и каждая платформа будет решать, что делать, на основе сообщений, размещенных только на этой конкретной платформе ”.
Таким образом, “поиск неправильного мышления становится глобальным”, - заключает Чудов.
В ответ на предложение ВЭФ, ReclaimTheNet.org указал, что “можно начать воспринимать аргумент здесь ... как простое давление на социальные сети, чтобы они начали двигаться в направлении"превентивной цензуры”".
Чудов заявил, что ВЭФ продвигает это предложение, потому что оно “становится немного обеспокоенным”, поскольку “неутвержденные мнения становятся все более популярными, и онлайн-цензоры не могут идти в ногу с миллионами людей, которые становятся более осведомленными и более громкими”.
Согласно Daily Caller, “В документе ВЭФ не указано, как будут определяться члены учебной группы по ИИ, как они будут привлечены к ответственности или могут ли страны осуществлять контроль над ИИ”.
В заявлении об отказе от ответственности, сопровождающем статью Голдбергер, ВЭФ заверил общественность, что содержание, изложенное в статье, “является мнением автора, а не Всемирного экономического форума”, добавив, что “эта статья была опубликована на веб-сайтах, которые обычно искажают контент и распространяют дезинформацию”.
Тем не менее, ВЭФ, похоже, открыт для предложений, подобных предложению Голдбергер. Например, в статье, опубликованной в мае 2022 года на веб-сайте ВЭФ, “Надзорный совет” Facebook предлагается в качестве примера “модели управления в реальном мире”, которая может быть применена к управлению в метавселенной.
И, как отметил Чудов, “модерация контента ИИ напрямую связана с системой оценки социального кредита ИИ”.
ООН, поддерживаемая Фондом Гейтса, также стремится ‘разорвать цепь дезинформации’
ВЭФ - не единственная организация, призывающая к более строгому контролю за онлайн-контентом и “дезинформацией”.
Например, ЮНЕСКО недавно объявила о партнерстве с Twitter, Европейской комиссией и Всемирным еврейским конгрессом, что привело к запуску кампании #ThinkBeforeSharing, чтобы “остановить распространение теорий заговора”.
По данным ЮНЕСКО:
“Пандемия COVID-19 вызвала тревожный рост дезинформации и теорий заговора.
“Теории заговора могут быть опасными: они часто нацелены на уязвимые группы и дискриминируют их, игнорируют научные данные и поляризуют общество с серьезными последствиями. Это нужно остановить ”.
Генеральный директор ЮНЕСКО Одри Азулай заявила:
“Теории заговора наносят реальный вред людям, их здоровью, а также их физической безопасности. Они усиливают и узаконивают неправильные представления о пандемии и укрепляют стереотипы, которые могут подпитывать насилие и насильственные экстремистские идеологии ”.
ЮНЕСКО заявила, что партнерство с Twitter информирует людей о том, что события, происходящие по всему миру, не “тайно управляются за кулисами могущественными силами с негативными намерениями”.
ЮНЕСКО выпустила руководство о том, что делать в случае, если кто-то столкнется с “теоретиком заговора” в Интернете: нужно немедленно “отреагировать”, разместив соответствующую ссылку на “веб-сайт для проверки фактов” в комментариях.
ЮНЕСКО также консультирует общественность на случай, если кто-то столкнется с “теоретиком заговора” во плоти. В этом случае человек должен избегать споров, поскольку “любой аргумент может быть воспринят как доказательство того, что вы являетесь частью заговора, и укрепить это убеждение”.
Кампания #ThinkBeforeSharing предоставляет множество инфографики и сопроводительных материалов, призванных объяснить, что такое “теории заговора”, как их идентифицировать, как сообщать о них и как реагировать на них в более широком смысле.
Согласно этим материалам, теории заговора имеют шесть общих черт, в том числе:
ЮНЕСКО не отвергает полностью существование “теорий заговора”, вместо этого признавая, что “реальные заговоры, большие и маленькие, ДЕЙСТВИТЕЛЬНО существуют”.
Однако, утверждает организация, такие “заговоры” “чаще сосредоточены на отдельных автономных событиях или отдельных лицах, таких как убийство или государственный переворот”, и “реальны”, только если “обнаружены средствами массовой информации”.
В дополнение к ВЭФ и ЮНЕСКО, Совет по правам человека Организации Объединенных Наций (ООН) ранее в этом году принял “план действий по борьбе с дезинформацией”.
“План действий”, спонсируемый США, Великобританией, Украиной, Японией, Латвией, Литвой и Польшей, подчеркивает “первостепенную роль правительств в противодействии ложным повествованиям”, выражая при этом обеспокоенность:
“Растущее и далеко идущее негативное воздействие на осуществление и реализацию прав человека преднамеренного создания и распространения ложной или искаженной информации, предназначенной для обмана и введения аудитории в заблуждение, либо для причинения вреда, либо для личной, политической или финансовой выгоды”.
Даже страны, которые официально не одобрили план Совета по правам человека, выразили обеспокоенность по поводу онлайн-“дезинформации”.
Например, Китай назвал такую “дезинформацию” “общим врагом международного сообщества".
Более ранняя инициатива ООН в партнерстве с ВЭФ “привлекла 110 000 информационных добровольцев”, которые, по словам директора ООН по глобальным коммуникациям Мелиссы Флеминг, будут действовать в качестве “первых цифровых служб реагирования” на “дезинформацию в Интернете”.
Инициатива ООН #PledgeToPause, хотя и недавно распространившаяся в качестве новой разработки в социальных сетях, была анонсирована в ноябре 2020 года и была описана ООН как “первая глобальная кампания по изменению поведения в отношении дезинформации”.
Кампания является частью более широкой инициативы ООН “Проверено”, целью которой является привлечение участников для распространения “проверенного контента, оптимизированного для совместного использования в социальных сетях”, исходящей непосредственно от департамента коммуникаций ООН.
В то время Флеминг сказал, что ООН также “работает с платформами социальных сетей, чтобы рекомендовать изменения”, чтобы “помочь разорвать цепь дезинформации”.
На момент написания этой статьи кампания “Проверено” и кампания #PledgeToPause, похоже, все еще активны.
Инициатива “Проверено” реализуется совместно с Purpose, группой активистов, которая сотрудничала с Фондом Билла и Мелинды Гейтс, Фондом Рокфеллера, благотворительными организациями Bloomberg, Всемирной организацией здравоохранения, Chan Zuckerberg Initiative, Google и Starbucks.
С 2019 года ООН поддерживает стратегическое партнерство с ВЭФ на основе шести “приоритетных областей”, одной из которых является “цифровое сотрудничество”.
Майкл Неврадакис,
08/19/22
Предупреждая о “темном мире онлайн-вреда”, который необходимо устранить, Всемирный экономический форум (ВЭФ) в этом месяце опубликовал статью, призывающую к “решению” проблемы “онлайн-злоупотреблений”, которое будет основано на искусственном интеллекте (ИИ) и человеческом интеллекте.
В предложении содержится призыв к системе, основанной на ИИ, которая автоматизировала бы цензуру “дезинформации” и “разжигания ненависти” и работала бы над преодолением распространения “жестокого обращения с детьми, экстремизма, дезинформации, разжигания ненависти и мошенничества” в Интернете.
По словам автора статьи Инбал Голдбергер, человеческие “команды доверия и безопасности” сами по себе не в состоянии полностью контролировать такой контент в Интернете.
Голдбергер является вице-президентом ActiveFence Trust & Safety, технологической компании, базирующейся в Нью-Йорке и Тель-Авиве, которая утверждает, что “автоматически собирает данные из миллионов источников и применяет контекстный ИИ для обеспечения доверия и безопасности операций любого масштаба”.
Вместо того, чтобы полагаться исключительно на команды модераторов, Голдбергер предлагает систему, основанную на “управляемом человеком, многоязычном, внеплатформенном интеллекте” - другими словами, ввод, предоставляемый “экспертными” человеческими источниками, которые затем создадут “обучающие наборы”, которые обучат ИИ распознавать предположительно вредные или опасный контент.
Этот “внеплатформенный интеллект” - больше машинного обучения, чем ИИ как таковой, по словам Диди Ранкович из ReclaimTheNet.org — будет собираться из “миллионов источников”, а затем сопоставляться и объединяться, прежде чем использоваться для “принятия решений об удалении контента” со стороны “интернет-платформ”.
По словам Голдбергер, система дополнит “умное автоматическое обнаружение с использованием человеческого опыта” и позволит создать “ИИ с использованием человеческого интеллекта”.
Это, в свою очередь, обеспечит защиту от “все более продвинутых игроков, злоупотребляющих платформами уникальными способами”.
“Человек-модератор, который является экспертом в области превосходства белой расы в Европе, не обязательно сможет распознать вредоносный контент в Индии или дезинформационные повествования в Кении”, - объяснила Голдбергер.
Тем не менее, “Благодаря уникальному сочетанию возможностей инновационных технологий, сбора данных вне платформы и мастерства экспертов в данной области, которые понимают, как действуют субъекты угроз, масштабируемое обнаружение онлайн-злоупотреблений может достичь почти идеальной точности”, поскольку эти обучающие наборы со временем “внедряются” в ИИ, сказала Голдбергер.
Это, в свою очередь, позволит “группам доверия и безопасности” “предотвращать угрозы, возникающие в Интернете, прежде чем они достигнут пользователей”, добавила она.
В своем анализе того, как предложение Голдбергер может выглядеть на практике, блогер Игорь Чудов объяснил, как контроль контента в социальных сетях сегодня происходит на основе платформы за платформой.
Например, модераторы контента в Твиттере просматривают только контент, размещенный на этой конкретной платформе, но не контент пользователя, размещенный за пределами Твиттера.
Чудов утверждал, что именно поэтому ВЭФ, похоже, поддерживает предложение “выйти за рамки основных интернет-платформ, чтобы собирать информацию о людях и идеях повсюду”.
“Такой подход, — писал Чудов, - позволил бы им лучше знать, какого человека или идею подвергнуть цензуре - сразу на всех основных платформах”.
По словам Чудова, “разведданные”, собранные системой из “миллионов источников”, “обнаружат мысли, которые им не нравятся”, в результате чего “решения об удалении контента будут приниматься такими, как Twitter, Facebook и так далее ... что существенно изменит статус-кво и каждая платформа будет решать, что делать, на основе сообщений, размещенных только на этой конкретной платформе ”.
Таким образом, “поиск неправильного мышления становится глобальным”, - заключает Чудов.
В ответ на предложение ВЭФ, ReclaimTheNet.org указал, что “можно начать воспринимать аргумент здесь ... как простое давление на социальные сети, чтобы они начали двигаться в направлении"превентивной цензуры”".
Чудов заявил, что ВЭФ продвигает это предложение, потому что оно “становится немного обеспокоенным”, поскольку “неутвержденные мнения становятся все более популярными, и онлайн-цензоры не могут идти в ногу с миллионами людей, которые становятся более осведомленными и более громкими”.
Согласно Daily Caller, “В документе ВЭФ не указано, как будут определяться члены учебной группы по ИИ, как они будут привлечены к ответственности или могут ли страны осуществлять контроль над ИИ”.
В заявлении об отказе от ответственности, сопровождающем статью Голдбергер, ВЭФ заверил общественность, что содержание, изложенное в статье, “является мнением автора, а не Всемирного экономического форума”, добавив, что “эта статья была опубликована на веб-сайтах, которые обычно искажают контент и распространяют дезинформацию”.
Тем не менее, ВЭФ, похоже, открыт для предложений, подобных предложению Голдбергер. Например, в статье, опубликованной в мае 2022 года на веб-сайте ВЭФ, “Надзорный совет” Facebook предлагается в качестве примера “модели управления в реальном мире”, которая может быть применена к управлению в метавселенной.
И, как отметил Чудов, “модерация контента ИИ напрямую связана с системой оценки социального кредита ИИ”.
ООН, поддерживаемая Фондом Гейтса, также стремится ‘разорвать цепь дезинформации’
ВЭФ - не единственная организация, призывающая к более строгому контролю за онлайн-контентом и “дезинформацией”.
Например, ЮНЕСКО недавно объявила о партнерстве с Twitter, Европейской комиссией и Всемирным еврейским конгрессом, что привело к запуску кампании #ThinkBeforeSharing, чтобы “остановить распространение теорий заговора”.
По данным ЮНЕСКО:
“Пандемия COVID-19 вызвала тревожный рост дезинформации и теорий заговора.
“Теории заговора могут быть опасными: они часто нацелены на уязвимые группы и дискриминируют их, игнорируют научные данные и поляризуют общество с серьезными последствиями. Это нужно остановить ”.
Генеральный директор ЮНЕСКО Одри Азулай заявила:
“Теории заговора наносят реальный вред людям, их здоровью, а также их физической безопасности. Они усиливают и узаконивают неправильные представления о пандемии и укрепляют стереотипы, которые могут подпитывать насилие и насильственные экстремистские идеологии ”.
ЮНЕСКО заявила, что партнерство с Twitter информирует людей о том, что события, происходящие по всему миру, не “тайно управляются за кулисами могущественными силами с негативными намерениями”.
ЮНЕСКО выпустила руководство о том, что делать в случае, если кто-то столкнется с “теоретиком заговора” в Интернете: нужно немедленно “отреагировать”, разместив соответствующую ссылку на “веб-сайт для проверки фактов” в комментариях.
ЮНЕСКО также консультирует общественность на случай, если кто-то столкнется с “теоретиком заговора” во плоти. В этом случае человек должен избегать споров, поскольку “любой аргумент может быть воспринят как доказательство того, что вы являетесь частью заговора, и укрепить это убеждение”.
Кампания #ThinkBeforeSharing предоставляет множество инфографики и сопроводительных материалов, призванных объяснить, что такое “теории заговора”, как их идентифицировать, как сообщать о них и как реагировать на них в более широком смысле.
Согласно этим материалам, теории заговора имеют шесть общих черт, в том числе:
- “Предполагаемый тайный заговор”.
- “Группа заговорщиков”.
- “"Доказательства", которые, похоже, подтверждают теорию заговора”.
- Предложения, которые “ложно” утверждают, что “ничего не происходит случайно и что совпадений не бывает”, и что “ничто не так, как кажется, и все взаимосвязано”.
- Они делят мир на “хороший или плохой”.
- Они делают козлов отпущения людьми и группами.
ЮНЕСКО не отвергает полностью существование “теорий заговора”, вместо этого признавая, что “реальные заговоры, большие и маленькие, ДЕЙСТВИТЕЛЬНО существуют”.
Однако, утверждает организация, такие “заговоры” “чаще сосредоточены на отдельных автономных событиях или отдельных лицах, таких как убийство или государственный переворот”, и “реальны”, только если “обнаружены средствами массовой информации”.
В дополнение к ВЭФ и ЮНЕСКО, Совет по правам человека Организации Объединенных Наций (ООН) ранее в этом году принял “план действий по борьбе с дезинформацией”.
“План действий”, спонсируемый США, Великобританией, Украиной, Японией, Латвией, Литвой и Польшей, подчеркивает “первостепенную роль правительств в противодействии ложным повествованиям”, выражая при этом обеспокоенность:
“Растущее и далеко идущее негативное воздействие на осуществление и реализацию прав человека преднамеренного создания и распространения ложной или искаженной информации, предназначенной для обмана и введения аудитории в заблуждение, либо для причинения вреда, либо для личной, политической или финансовой выгоды”.
Даже страны, которые официально не одобрили план Совета по правам человека, выразили обеспокоенность по поводу онлайн-“дезинформации”.
Например, Китай назвал такую “дезинформацию” “общим врагом международного сообщества".
Более ранняя инициатива ООН в партнерстве с ВЭФ “привлекла 110 000 информационных добровольцев”, которые, по словам директора ООН по глобальным коммуникациям Мелиссы Флеминг, будут действовать в качестве “первых цифровых служб реагирования” на “дезинформацию в Интернете”.
Инициатива ООН #PledgeToPause, хотя и недавно распространившаяся в качестве новой разработки в социальных сетях, была анонсирована в ноябре 2020 года и была описана ООН как “первая глобальная кампания по изменению поведения в отношении дезинформации”.
Кампания является частью более широкой инициативы ООН “Проверено”, целью которой является привлечение участников для распространения “проверенного контента, оптимизированного для совместного использования в социальных сетях”, исходящей непосредственно от департамента коммуникаций ООН.
В то время Флеминг сказал, что ООН также “работает с платформами социальных сетей, чтобы рекомендовать изменения”, чтобы “помочь разорвать цепь дезинформации”.
На момент написания этой статьи кампания “Проверено” и кампания #PledgeToPause, похоже, все еще активны.
Инициатива “Проверено” реализуется совместно с Purpose, группой активистов, которая сотрудничала с Фондом Билла и Мелинды Гейтс, Фондом Рокфеллера, благотворительными организациями Bloomberg, Всемирной организацией здравоохранения, Chan Zuckerberg Initiative, Google и Starbucks.
С 2019 года ООН поддерживает стратегическое партнерство с ВЭФ на основе шести “приоритетных областей”, одной из которых является “цифровое сотрудничество”.
ОТВЕТЫ (0)
Комментарии не найдены!