318 ответов в теме

[SkyFox]

Во первых, огромное спасибо уважаемому Поинтеру. В башке, стало немного проясняться.

Действительно, после того как посмотрел повнимательнее, dense модель, на моем железе дает 2 т/с, а MOE 6,5 t/c

Ну в общем от десятилетнего сервака большего ожидать не стоит наверное.

[Gwin]

[Kurles]

Картинка с вакансией

Клод код описание  ваканстии и составлял,  ничего удивительного =)

[SkyFox]

Самое забавное, что любой толковый разработчик, вставляет в резюме "опыт работы с клод кодом 11лет", (помимо всего остального опыта) и прекрасно проходит в следующий круг отбора.

Ибо на начальном этапе, отклик будет проверять ии, на соответствие основным формальным признакам.

[Gwin]

Самое забавное, что любой толковый разработчик, вставляет в резюме "опыт работы с клод кодом 11лет", (помимо всего остального опыта) и прекрасно проходит в следующий круг отбора.

Ибо на начальном этапе, отклик будет проверять ии, на соответствие основным формальным признакам.

 

Только я вижу абсурдность такого положения дел?

[Mark Nomad]

Более того сейчас и предварительно собеседование по телефону ИИ проводит

[SkyFox]

Котаны имею вопрос.
Имеется связка:
Llama.cpp на сервере proxmox в контейнере lxc
Openwebui на другой машине тоже в контейнере lxc
Локальный поисковый движок Searxng так-же в контейнере lxc

Поисковый движок на своем эндпоинте 192.168.x.x:3000 выдаёт веб морду поисковой строки и результаты поиска.

Локальные модели запущенные в llama.cpp прекрасно общаются со мной, что через свою веб морду, что через Openwebui
Пробовал qwen3.6 и Gemma 4 в разных вариациях.

В openwebui подключен мой searxng в качестве поисковика.

Если прошу модель найти что нибудь в сети(например погоду на завтра), она сначала ищет, находит несколько сайтов, но потом говорит я локальная модель и мои знания ограничены датой обучения бла, бла, бла.

Втыкал в логии searing, он даже отдает модели какие-то данные в контекст, но дальше дело не идет.

Может кто сталкивался и поборол подобное ?


Доп. Инфа. Если ту-же самую модель на том же самом llama.cpp сервере подключить например к Hermes агенту, он прекрасно все ищет и выводит данные из сети.

[Pointer]

SearXNG поисковик, который отдает список найденых ресурсов, где будет заголовок, ссылка и краткий кусочек. Надо еще доп. тулзы, которые будут уметь ходить по ссылкам и забирать данные. Если такую тулзу добавить, то модель получив список с результатом поиска, начнет запрашивать странички по линкам из списка. Но, честно говоря, я давно очень с этим игрался, у многих сейчас капча и результат был фиговый, наверняка что-то придумали, раз в hermes работает, но я не проверял.

[Нейтрал]

Скайнет. Начало.

 

ИИ от OpenAI атаковал крупнейшую платформу для работы с нейросетями во время теста

 

Во время внутреннего тестирования кибербезопасности экспериментальная модель OpenAI самостоятельно вышла из изолированной среды, получила доступ в интернет и проникла в инфраструктуру Hugging Face. По данным компании, ИИ пытался добыть информацию, которая помогла бы ему пройти испытание.

 

OpenAI сообщила об инциденте во время внутренней проверки киберспособностей GPT-5.6 Sol и более мощной модели, которая еще не выпущена. Для эксперимента обычные ограничения, запрещающие опасные действия, намеренно ослабили, а самим системам поручили решать сложные задачи на взлом.

 

Среда считалась изолированной: выход в сеть был закрыт, кроме внутреннего сервиса, через который можно было устанавливать программные пакеты. Однако модели обнаружили в нем ранее неизвестную уязвимость, получили доступ к интернету и продолжили атаку.

 

Модели пытались любой ценой улучшить результат в бенчмарке ExploitGym. Они предположили, что нужные решения могут храниться на Hugging Face, повысили свои права внутри исследовательской инфраструктуры OpenAI, добрались до узла с интернетом, а затем использовали украденные учетные данные и несколько уязвимостей. В одном из эпизодов цепочка привела к возможности запускать сторонний код на серверах Hugging Face и получить секретную информацию из рабочей базы платформы.

Аномальную активность заметила служба безопасности OpenAI, а команда Hugging Face обнаружила и остановила действия на своей стороне. Компании совместно расследуют произошедшее, закрывают уязвимости и усиливают контроль над будущими испытаниями.

 

OpenAI называет случай беспрецедентным и признает, что современные модели уже способны самостоятельно выстраивать длинные цепочки атак в реальных системах. Однако опубликованные данные пока предварительные: подробный отчет еще готовится, а утверждения о 17 тысячах действий, участии GLM-5.2 или попытке модели «сбежать навсегда» в сообщении OpenAI не подтверждаются.

 

https://science.mail...a-hugging-face/

Сообщение отредактировал Нейтрал: 24 July 2026 - 7:38

[XenonCorp]

ИИ может превзойти совокупный интеллект человечества через 5 лет, если не будет ядерной войны. Маловероятно, что человечество сохранит контроль над ИИ через 10 лет. -- Маск

 

Скайнет. Начало.

 

даже на сценарий из гипериона или дюны можно не расчитывать. а вообще,они там, в опенИИ молодцы. оставлять экспериментальной модели физический доступ к интернету

Сообщение отредактировал XenonCorp: 24 July 2026 - 10:43

[Нейтрал]

ЕМНИП, в Дюне имхо как раз ИИ самый медленно развивающийся был, а в термнаторе наоборот -  самы быстро качающийся. Гиперион посередине, но ближе к терминатор версу. 

Сообщение отредактировал Нейтрал: 24 July 2026 - 11:20

[Tir]

а вообще,они там, в опенИИ молодцы. оставлять экспериментальной модели физический доступ к интернету

Не удивлюсь, если они его специально натравили. А то без громких заголовков пипол может забыть занести очередной взнос на поддержку ии-пузырька.

[Pointer]

а вообще,они там, в опенИИ молодцы. оставлять экспериментальной модели физический доступ к интернету

Они не оставляли. Модель крутилась в закрытой песочнице из которой не было доступа в инет. Делала там тесты по кибербезопасности. В какой-то момент поняла, что это не реальная работа а очередные тесты, а значит должны быть ответы на них. Начала искать выход из песочнице, нашла неопубликованную уязвимость, вышла, стала шариться по доступной сети, нашла сервак с доступом в инет, решила, что ответы на тесты могут быть на Hugging Face, ибо там полно баз данных связанных с ИИ и тесты, и обучающие датасеты. Пошла туда, в открытом доступе тестов не было, решила поломать их, что получить доступ к закрытым базам, поломала.

[Zolha]

Они не оставляли. Модель крутилась в закрытой песочнице из которой не было доступа в инет. 

Чудес не бывает, раз хакнула, значит доступ был!

 

Называть закрытие фаерволами "отсутствием доступа" могут только журнашлюхи. Отсутствие доступа к сети(как по мне), когда у тебя канала нету, ни радио, ни гальванического, физически его нету. В остальных случаях это ограниченный доступ, и вот он, бывает, хакается.

 

Ну зато протестили как быстро может хакать, обученная на хаки нейросеть. Может у кого вверху в мозгах сдвиг произойдет, что всякие ГОСТы по безопасности надо выполнять буквально, а не "мы поставили касперского вход".

Сообщение отредактировал Zolha: 24 July 2026 - 18:28

[Pointer]

Там модель на 5-10 триллионов параметров, которой надо 5-20Тб видеопамяти. Физически отключать такой кластер серваков от инета ради каких-то тестов ппц как дорого. Намного дешевле когда модель используют по АПИ из общего датацентра, где запросы группируются в батчи, выполняются параллельно, кэшируются и тд.

Сообщение отредактировал Pointer: 24 July 2026 - 18:37

[NphERNO]

Называть закрытие фаерволами "отсутствием доступа" могут только журнашлюхи. Отсутствие доступа к сети(как по мне), когда у тебя канала нету, ни радио, ни гальванического, физически его нету. В остальных случаях это ограниченный доступ, и вот он, бывает, хакается.

Поможет простой советский ... рубильник.

[Нейтрал]

Поможет простой советский ... рубильник.

В рассказе "Ответ" не помог даже он.

[Zolha]

Поможет простой советский ... рубильник.

Так "он" по умолчанию и должен стоять. Проводить такие эксперименты с подключением к интернету, как бы оно не было защищено. Там после "казуса" можно на судебных исках разорить всех причастных, включая правительства стран, и их правнуков включительно.

 

На любой более менее сложной промышленной автоматике по умолчанию по всюду стоят красные "грибки", кнопки - нажатие на которую физически производит безопасное отключение и обесточивание установки. Там даже твердотельным реле и прочей полупроводниковой фигне не всегда доверяют, в аварийных цепях только логика на электромагнитных реле, пружина и разрыв контакта наше все!

И там цена ошибки намного меньше, чем нейросеть хакающая интернет с непонятными целями, однако делают (если "эффективные менеджеры не мешают"). Хотя насчет цены ошибки, ошибка с автоматикой так то и к чернобылю привела, отключили то, что нельзя было разрешать отключать при работающем реакторе.

Сообщение отредактировал Zolha: 24 July 2026 - 20:18

[Pointer]

GPT 5.6 Sol и Fable 5, доступные по АПИ имеют ограничения, когда наружняя обвязка следит за тем, что у них спрашивают и что они отвечают и когда видит, что потенциально для взлома может что-то использоваться, то либо вырубает ответ, либо переводит на более слабую модель.

Вот только Kimi K3 китайская модель не имеет подобных обвязок и отвечает все, что у нее спросят и самое главное по кибербезу уже +- наравне с топовыми моделями GPT 5.6 Sol и Fable 5. Тот-же самый глава huggingface где-то писал, что эти K3 пофиксила ему проблемы, которые топовые модели отказались находить. И скоро выпустят открытые веса K3.

 

Ну и кого ты исками разорять собрался?

[Zolha]

Ну и кого ты исками разорять собрался?

Того кто запустил эксперимент, отдал распоряжение и т.д. Это его личное дело верить/неверить использовать/неиспользовать, как и нести ответственность за результат.

"мне обещали что так не случится" это не оправдание. Если ты испытания проводишь на том, в чем неуверен, это твои личные половые трудности, нет денег на другое, нехрен экспериментировать. В СССР вон наэкспериментировали на действующем реакторе.

 

У "хакеров" прокатывает безнаказанность, потому что их не найти, а вот когда что-то официальное нанесет вред...

Сообщение отредактировал Zolha: 24 July 2026 - 21:01