Искусственный интеллект, нейросети

234.3 K 524 1.8 K
 


Zkvxz
 
Россия
Южный Урал
Слушатель
Карма: +58.09
Регистрация: 14.02.2017
Сообщений: 1,129
Читатели: 3
Исследователи безопасности из компании Radware выявили серьёзную уязвимость в Deep Research Mode ChatGPT, которая позволяет злоумышленникам тайно получать доступ к личной переписке Gmail пользователей. Уязвимость получила название ShadowLeak и представляет собой новый тип атак, использующих скрытые инструкции в электронных письмах для манипуляции AI.
Суть атаки проста и вместе с тем опасна. Злоумышленник отправляет жертве письмо, в котором скрыты инструкции — например, белый текст на белом фоне или минимальный шрифт, практически невидимый глазу. Когда пользователь запускает Deep Research, агент ChatGPT обрабатывает письмо и может извлечь конфиденциальные данные из других писем или документов пользователя, после чего отправляет их на внешний сервер злоумышленника. Всё это происходит на серверной стороне, оставаясь незамеченным для пользователя и обходя локальные средства защиты.

Уязвимость была обнаружена ещё в июне 2025 года и вскоре исправлена OpenAI. Однако исследователи отмечают, что компания долго не уведомляла их напрямую о патче, и только в начале сентября официально подтвердила устранение проблемы. Несмотря на исправление, эксперты предупреждают, что потенциальные атаки могли использовать не только Gmail, но и другие сервисы, обрабатываемые агентами ChatGPT, включая Google Drive, Outlook, Teams и GitHub. В этих системах скрытые инструкции в документах, приглашениях на встречи или чатах также могут стать инструментом ShadowLeak.
Специалисты по кибербезопасности настоятельно рекомендуют ограничивать доступ ChatGPT к личным данным, отключать автоматический доступ к почтовым ящикам и регулярно проверять настройки безопасности. Эта уязвимость подчёркивает, что даже самые современные AI-системы могут стать инструментом для новых видов атак, если не учитывать все сценарии взаимодействия с пользователем и внешними данными.
Хабр
Будет али нет, а ты паши да сей. В лучшее верить надо!

  • +0.09 / 6
    • 6
Поверонов
 
Слушатель
Карма: +39.98
Регистрация: 05.06.2010
Сообщений: 21,500
Читатели: 8
Цитата: Zkvxz от 23.09.2025 09:40:35 Эта уязвимость подчёркивает, что даже самые современные AI-системы могут стать инструментом для новых видов атак, если не учитывать все сценарии взаимодействия с пользователем и внешними данными.
Хабр
всё что явно хранится в облаках уже "скормлено" обучалкам ИИ, и они подбираются к приватным бэкапам.

  • +0.00 / 0
small__virus
 
Россия
Сочи
Слушатель
Карма: +41.52
Регистрация: 04.04.2013
Сообщений: 2,323
Читатели: 9
Новость Новая
сервис MusicGPT
Цитата: Телеграм-канал Не баг, а фичаГенерим музыкальные ШЕДЕВРЫ за один промпт — сервис MusicGPT генерит различные звуки, реалистичный вокал и даже МЕГАХИТЫ.

🔅 На видео Гомер Симпсон исполняет легендарный трек «In Da Club», а Drake — «Pretty little baby».
🔅 Можно создавать мощные РЕМИКСЫ из нескольких песен и менять жанр любого трека.
🔅 Есть КУЧА настроек — можно править тембр, менять голос и продлевать мелодию.
🔅 Большая библиотека синглов — каверы, плейлисты и СОТНИ звуков для ваших проектов.
🔅 Все треки БЕЗ роялти — можно использовать в коммерческих целях и загружать на любые платформы:

🔤🔤🔤🔤🔤🔤🔤🔤🔤

ChatGPT для музыки — тут.
https://musicgpt.com/

🙂 Не баг, а фича

https://t.me/bugnotfeature/20864
Дискогрыз полиморфный обыкновенный, редчайшей породы гад, падла зеленая...

  • +0.03 / 3
    • 3
small__virus
 
Россия
Сочи
Слушатель
Карма: +41.52
Регистрация: 04.04.2013
Сообщений: 2,323
Читатели: 9
Китайцы или японцы?...
И те и те такие затейники...

Скрытый текст
Дискогрыз полиморфный обыкновенный, редчайшей породы гад, падла зеленая...

  • +0.00 / 3
    • 2
    • 1
small__virus
 
Россия
Сочи
Слушатель
Карма: +41.52
Регистрация: 04.04.2013
Сообщений: 2,323
Читатели: 9
Цитата: Телеграм-канал Не баг, а фича🖍️ Гениальное решение для родителей: приложение, которое по голосовому запросу генерит раскраску и сразу печатает ее на мини-принтере.

Тулза работает в паре с Phomemo — компактным принтером, который легко помещается в руке.

Доступ к сервису лежит на GitHub — тут

@bugfeature | #полезно

https://t.me/bugfeature/6825
Дискогрыз полиморфный обыкновенный, редчайшей породы гад, падла зеленая...

  • +0.06 / 5
    • 5
Superwad
 
Белоруссия
Минск
52 года
Слушатель
Карма: +68.78
Регистрация: 27.02.2012
Сообщений: 2,833
Читатели: 0
Цитата: small__virus от 27.11.2025 09:54:42
Цитата: Телеграм-канал Не баг, а фича🖍️ Гениальное решение для родителей: приложение, которое по голосовому запросу генерит раскраску и сразу печатает ее на мини-принтере.

Тулза работает в паре с Phomemo — компактным принтером, который легко помещается в руке.

Доступ к сервису лежит на GitHub — тут

@bugfeature | #полезно

https://t.me/bugfeature/6825
Я своей девочке ещё 20 лет назад при помощи обычного редактора Gimp на Линуксе делал такие картинки, правда из обычных картинок и фотографий - делал ч/б и контурил (играл осветлением). Из нового - только генерация контента по запросу и только. Старя идея на новый лад. А так норм...

  • +0.02 / 1
    • 1
adolfus
 
Слушатель
Карма: +18.75
Регистрация: 12.02.2010
Сообщений: 13,322
Читатели: 3
Цитата: TAU от 07.09.2025 21:17:592. Ничего "в лету" не кануло. Lowcode и Nocode платформы, например, на базе визуального конструирования программ, вполне продаются и успешны - и даже до современных языковых моделей ИИ и вайбкодинга.

3. Ерунда. Продуктивно, с успешной разработкой проектов на десятки тысяч строк исходных текстов, сейчас занимаются вайбкодингом именно что высококлассные программисты с опытом. Да, есть попытки и у дилетантов - но пока (пока - ключевое слово) получаются у них лишь продукты не самой высокой сложности. Кстати, все равно получаются! И да, дилетант разобраться в программах не может. Но надо видеть, что происходит.
Языковые модели быстро совершенствуются. Критика в их адрес, актуальная в январе, уже недействительна. Скорость развития требует учитывать месяцы, а не годы.
Инженеры и программисты не думают словами. Они думают образами, представляя процесс и результат, которые только впоследствиии облекаются в текст, который называется "пояснительная записка" и/или "" программная/эксплуатационная/технологическая  документация. Процесс созидания или разработки не задействует лингвистические процессы в принципе. Лингвистические конструкции используются исключительно для коммуникации, т.е. для ввода/вывода. А также для выражения своих чувств в процессе. С помощью соответсвующего словаря.

  • +0.04 / 3
    • 2
    • 1
adolfus
 
Слушатель
Карма: +18.75
Регистрация: 12.02.2010
Сообщений: 13,322
Читатели: 3
Цитата: small__virus от 27.11.2025 09:49:44Китайцы или японцы?...
И те и те такие затейники...

Скрытый текст
Скрытый текст
киберфак

  • +0.02 / 1
    • 1
TAU
 
Слушатель
Карма: +52.45
Регистрация: 24.07.2008
Сообщений: 4,602
Читатели: 0
Цитата: adolfus от 30.11.2025 02:52:11Инженеры и программисты не думают словами. Они думают образами, представляя процесс и результат, которые только впоследствиии облекаются в текст, который называется "пояснительная записка" и/или "" программная/эксплуатационная/технологическая  документация. Процесс созидания или разработки не задействует лингвистические процессы в принципе. Лингвистические конструкции используются исключительно для коммуникации, т.е. для ввода/вывода. А также для выражения своих чувств в процессе. С помощью соответсвующего словаря.
Енто тайная великая есть - как мыслит человек.

Есть мнение, что язык с мышлением связан сильнейшим образом.

ЦитатаВыдающиеся философы прошлого постоянно подчеркивали неделимую связь языка с процессами мышления. Виднейший философ XVIII в. Иммануил Кант писал: «Мыслить – это значит говорить с самим собой, значит внутренне (через репродуктивное воображение) слышать самого себя» [8]. Многие исследователи уверены, что язык с самого начала выполняет по существу ничем не заменимую функцию в обобщающей работе мышления и именно с помощью языка человек оказался в состоянии перейти от познания единичных предметов и явлений к их обобщенному отражению в форме понятий.
Многие полиглоты отмечали, что в зависимости от того, на каком языке они думают в данный момент, они формулируют идеи по-разному, идут к выводам несколько разными путями и даже получают различные умозаключения. Дуглас Хофштадтер написал: «Я обнаружил, что, когда я «думаю по-французски» мне в голову приходят совсем иные мысли, чем когда я «думаю по-английски»! Мне захотелось понять, что же главнее, язык или мысли?» [9]. Карлу V Габсбургу, императору Священной Римской империи, приписывают высказывание: «Если бы я хотел говорить с мужчинами, я говорил бы по-французски, если бы я хотел говорить с женщинами, я использовал бы итальянский, если бы я хотел говорить с моей лошадью, я бы говорил на немецком, если бы я хотел говорить с Богом, я бы говорил по-испански».
Физики, математики, химики, ботаники и даже астрологи для описания своих задач и методов их решения используют специфичные языки, удобные в каждом конкретном случае. Жан-Луи Лорьер отмечает [8], что привычный всем со школы современный язык математики, кажущийся столь логичным и естественным, рождался в муках на протяжении тысячелетий. В современном виде он существует совсем недавно, причем в некоторых разделах науки (скажем, в математической логике, где можно для обозначения одного и того же действия встретить запись и →, и , и ) до сих пор не существует единой общепринятой системы обозначений! Вычисления в Древнем Египте или Вавилоне были гораздо более громоздкими и трудоемкими просто в силу используемых форм записи

  • +0.00 / 0
adolfus
 
Слушатель
Карма: +18.75
Регистрация: 12.02.2010
Сообщений: 13,322
Читатели: 3
Цитата: TAU от 30.11.2025 15:46:37Енто тайная великая есть - как мыслит человек.

Есть мнение, что язык с мышлением связан сильнейшим образом.

ЦитатаВыдающиеся философы прошлого постоянно подчеркивали неделимую связь языка с процессами мышления. Виднейший философ XVIII в. Иммануил Кант писал: «Мыслить – это значит говорить с самим собой, значит внутренне (через репродуктивное воображение) слышать самого себя» [8]. 
...
Физики, математики, химики, ботаники и даже астрологи для описания своих задач и методов их решения используют специфичные языки, удобные в каждом конкретном случае. Жан-Луи Лорьер отмечает [8], что привычный всем со школы современный язык математики, кажущийся столь логичным и естественным, рождался в муках на протяжении тысячелетий. В современном виде он существует совсем недавно...
Это лишь еще раз подтверждает, что язык -- это средство общения и никакого отношения к созидательной и мыслительной деятельности человека не имеет. Используется, в том числе и для обучения. Однако, услышав одни и те же слова учителя, одни люди их "транслируют"  в понимание процессов, хотя никаких слов в процессе созидания не используют вообще, а другие слова учителья запоминают ничего не понимая, но при этом способны их воспроизводить, как магнитофон. 
Что касается философов, то эти любомудрствующие люди чуть менее, чем все, являлись тормозом развития человечества. Начиная с Аристотеля, и вплоть до нынешнего времени. Все, что философы пишут про окружающий мир, выделяя в нем человека, как единственного носителя "сознания", -- полный бред, не имеющий ничего общего с действительностью. Ну и их быдлопоследователи, посмотревшие дебильнейший фильм "Матрица".

  • -0.05 / 3
    • 3
TAU
 
Слушатель
Карма: +52.45
Регистрация: 24.07.2008
Сообщений: 4,602
Читатели: 0
Цитата: adolfus от 30.11.2025 22:12:19язык -- это средство общения и никакого отношения к созидательной и мыслительной деятельности человека не имеет
Не стоило писать настолько явную чушь.

  • +0.00 / 0
Поверонов
 
Слушатель
Карма: +39.98
Регистрация: 05.06.2010
Сообщений: 21,500
Читатели: 8
Цитата: TAU от 01.12.2025 23:46:53Не стоило писать настолько явную чушь.
когда программирую то представляю дальнейшие операции в терминах языка программирования. Впрочем это тоже как бы язык. Но уж точно не естественный. Не представляю как выразить алгоритмы на естественном языке, по видимому пришлось бы описывать всю семантику всех операций языка программирования, но это может занять книгу.

  • +0.00 / 0
TAU
 
Слушатель
Карма: +52.45
Регистрация: 24.07.2008
Сообщений: 4,602
Читатели: 0
Цитата: Поверонов от 02.12.2025 01:28:00когда программирую то представляю дальнейшие операции в терминах языка программирования. Впрочем это тоже как бы язык. Но уж точно не естественный. Не представляю как выразить алгоритмы на естественном языке, по видимому пришлось бы описывать всю семантику всех операций языка программирования, но это может занять книгу.
Я уже написал. И до меня. Все украдено до Вас Веселый

  • +0.00 / 0
Последнее сообщение
Luddit
 
Слушатель
Карма: +104.56
Регистрация: 27.09.2008
Сообщений: 27,110
Читатели: 2
"первый в мире ИИ-министр попался на взятке в 14 BTC, которую он посчитал нормой. 
Защитником Diella выступает ChatGPT
Скрытый текст
Отредактировано: Luddit - Вчера в 11:40

  • +0.00 / 4
    • 3
    • 1
Сейчас на ветке: 2, Модераторов: 0, Пользователей: 0, Гостей: 1, Ботов: 1
×

Подписка на ветку

В избранном у 11 пользователей

Календарь