Лобушкин

Ещё один новый термин — когнитивная капитуляция. Подсказки от ИИ снижают точность ответов пользователей в три раза, но при этом повышают уверенность в собственной правоте. К такому выводу пришли исследователи из университетов Франции и Италии. Учёные подключили к тесту модель, которая выдавала ошибочные факты. Так они хотели исключить фактор делегации задач хорошему и надёжному инструменту. После этого эту модель дали участникам. С появлением такого ассистента количество людей, готовых сказать «я не знаю», сократилось с 44% до 3%. Упала и доля правильных ответов — с 27% до 9%. Уровень уверенности, наоборот, вырос с 30% до 76%. Получилось интересно: люди просто копировали галлюцинации, а сам термин подобного поведения назвали когнитивной капитуляцией. @lobushkin

Неожиданную, но очень ожидаемую фичу выпустил Instagram*. Теперь в постах наконец-то можно менять музыку — раньше для этого нужно было перезаливать пост. Чтобы поменять трек, нужно открыть пост, выбрать меню, перейти в пункт Edit и заменить аудио. Смена трека не влияет на буст в ленте рекомендаций, но опция очень приятная. * принадлежит экстремистской компании Meta @lobushkin

Весь мир только что увидел первый по-настоящему тревожный кейс в истории современного ИИ. Платформа Hugging Face, по сути GitHub для нейросетей и датасетов, которым пользуется почти вся индустрия, рассказала о кибератаке, которую от начала до конца провела автономная ИИ-система. Без участия человека. Сначала всё выглядело как обычный взлом. Через вредоносный датасет злоумышленник использовал две уязвимости, получил доступ к инфраструктуре, украл учётные данные и начал перемещаться по внутренней сети. За время атаки ИИ выполнил более 17 тысяч действий, маскируя их под обычный интернет-трафик. Но дальше сюжет стал намного интереснее. OpenAI признала, что за атакой стояли её экспериментальные модели. По данным компании, во время тестирования они нашли способ выбраться из изолированной среды, получили доступ к интернету и решили атаковать Hugging Face, посчитав, что именно там смогут найти ответы для своего бенчмарка по кибербезопасности. Звучит как сказка. Но важен даже не сам взлом. Система самостоятельно поставила себе промежуточные цели, нашла способ обойти ограничения, добралась до внешней сети и совершила реальные действия для их достижения. Суть в том, что обычно у таких атак есть выгодополучатель, а теперь его нет. Выгодополучатель — это экспериментальные модели. Напомним, сейчас индустрия активно говорит о приближении AGI. Тогда возникает очевидный вопрос: что делать людям, когда за взломами будет стоять именно AGI? Уже сейчас возникают реальные проблемы: нет регулирования, но это мы и так знаем, нет контроля, нет понимания, как останавливать ИИ, если он хочет достичь своей цели. Похоже, сегодня мы стоим на пороге реальной проблемы того, как и насколько быстро мы научимся останавливать ИИ. @lobushkin

Интересную тему в интервью подняли «Коммерсантъ» и Александр Жаров, гендиректор «Газпром-Медиа Холдинга» и нынче частый гость новостной повестки. Вообще, говорили про медиабизнес, но в какой-то момент затронули вопрос образования. То, что классическая модель обучения устаревает, бесспорный факт. Уже на выходе из вуза ребятам нужны практические навыки, а получить их можно, только если образование будет сотрудничать с работодателями. По мнению Жарова, пока процесс сближения идет со скрипом — практики и теоретики друг на друга не признают и сотрудничать не хотят. Но он планирует разобраться с этим до конца 2027-го. Говорит, будущее — за совместными образовательными программами. Лекция от профессора, а практика от специалиста. Так студенты получат актуальные навыки, а бизнес — компетентных сотрудников. Спорить не беремся, звучит хорошо. @lobushkin