Сравнительная таблица офлайн ИИ-моделей для "черного" кодинга

я все еще перебираю..

кто пробовал? может кто что порекомендовать?

дополнения:

9. ChatGPT / DeepSeek Chat – помогут разобрать принципы работы malware в учебных целях.
10. Hugging Face (модели для анализа кода) – можно исследовать уязвимости.
11. Kali Linux AI tools – для этичного пентестинга.

протестировано
минус 1 Mistral

Не удалось прогрузить медиа

еще и очень энергоемкий. на 80 % грузит 64 гигабайтный комп отвечая на простейшие вопросы.

короче оффлайн модели  было плохой задумкой, т.к. они сильно грузят комп. 
Я не знаю какой им нужен кома но простой ответ а вопрос как дела грузит комп на 80% - это не вариант. вернусь потом к тому , когда куплю следующий комп, а пока я свои компы еще не убил буду юзать https://chat.deepseek.com/ для ворка а копайлот для принеси подай. 


напишите кто что юзает,  все еще в поисках

Не удалось прогрузить медиа

протестировано https://chat.deepseek.com/
честный отзыв.
самый большой тормоз - "Length limit reached. Please start a new chat."  просто "создай новый чат потому что в том больше нету места" соответственно в новом чате он не будет помнить о чем он со мной говорил. бред. copilot тупой но этот еще тупее . я даже не знаю что можно делать с этим ии. сканворды разгадывать?

Не удалось прогрузить медиа

протестировано - Dolphin Llama3:8b
сильно тупой, не может нормально отвечать даже на обычные вопросы, плавает...
удалили сразу. недоработанная, не годится, даже писать не буду

просил протестировать метод, он сказал что то метод xss, хотя это не xss...



Dolphin Llama3:8b - протестировано - не подходит, тупой
Nous Hermes 2 - Mistral 7B не пробовал, но пробовал модель mistral:latest что является базой, и у ней слишком высокая цензура и мораль. и слишком сильно грузит ресурсы компа.
Zephyr 7B Alpha - пока не протестировано
Chimera-Apex 7B- пока не протестировано
MythoMax-L2 13B - пока не протестировано
Wizard-Vicuna 13B Uncensored - пока не протестировано
GPT4-X-Alpaca - пока не протестировано
GPT4All (сборки разные) - в процессе тестирования
https://chat.deepseek.com - протестировано, короткая память, не подходит

Copilot построен на архитектуре GPT — в актуальной итерации это GPT-4o. Однако уровень фильтрации, внедрённый Microsoft, критически ограничивает функциональность: подавляющее большинство содержательно нестандартных или технически насыщенных запросов блокируется на уровне предобработки и в результате отсутствие практической пользы.

Что касается локальных LLM в диапазоне 8B–13B параметров, их потенциал ограничен характером обучающих данных: они демонстрируют общее понимание тем, но практически полностью теряются в специализированных областях — таких как кардинг, кодинг, или эксплуатация уязвимостей. 

Теоретически восполнение пробелов возможно через Retrieval-Augmented Generation (RAG) или FINE TUNING, при условии, что подготовлен обучающий корпус. Здесь речь идёт, в частности, об автоматизированной выгрузке и структурировании данных с профильных хакерских и кардерских форумов (у дамаги, к примеру, можно получить доступ к вебскраперу за 2к$), а также об экспортах диалогов из Telegram-чатов. Однако одна из ключевых проблем — приведение этих данных к формату, пригодному для корректной обработки моделью: очистка, нормализация, маркировка, токенизация. У меня есть гипотетическое представление о том как сделать свою CRD-LLM, на практике это задача требующая определенных технических знаний которыми я не обладаю доселе.

Особое внимание заслуживает распространённая ошибка разворачивать LLM на CPU, в современных реалиях модели подобного класса требуют массивной параллелизации, которую в полной мере обеспечивает только GPU. Сейчас даже RTX 5090 способна стабильно обрабатывать лишь 13B-модель, но при жёстко ограниченной длине контекста. Любые попытки компенсировать это урезанием токенов или сжатием входных данных приводят к критическому снижению качества генерации и обесценивают саму задачу.

На данный момент наилучшие результаты даёт работа с GPT-4o — в отличие от o3 и o3.5-pro, фильтрация в этой версии менее агрессивна, а пороги автоцензуры ниже. Эффективность взаимодействия при этом определяется не столько моделью как таковой, сколько точностью манипулирования её внутренним состоянием. Я использую собственные пользовательские инструкции, а так-же вбиваю в её контекст и память определенные утверждения и результаты взаимодействия с ней, ниже поделюсь несколькими скриншотами. 

В результате GPT-4o формирует полноценные и довольно точные ответы по вопросам разработки специфических скриптов, автоматизации отдельных рабочих звеньев и даёт консультации по разным нелегитимным вопросам. Из элементарной практики - собирает Business Fullz, пробивает (гуглит) EIN, отвечает на BG вопросы и прочее.

Так-же критически важным считаю напомнить вам о том, что не стоит переоценивать LLM, на данный момент это просто генераторы рандомного текста, при том буквально. Но у них есть очевидный потанцевал и не использовать Ai в работе в 2025 году это кощунство. 

Не удалось прогрузить медиа

Не удалось прогрузить медиа

спасибо за ответ. грамотно пишешь. тоже ии составлял текст?)


ну EIN  по флориде и так в открытом доступе, держу пари по нью йорку она не пробьет тебе

Всегда пожалуйста, я и сам в некоем роде машина ^_^
Вполне естественно мой стиль общения на форумах не такой как в мессенджерах

Не удалось прогрузить медиа

Характерная особенность FL в открытой индексации EIN и других чувствительных данных, недавно я выгружал с одного из .gov больше миллиона активных бизаков.
Моя модификация GPT проводит поиск по всем штатам, однако, как уже отмечал, он просто гуглит, поэтому итоговая результативность зависит от ряда факторов, прежде всего от составления эффективного промта и предоставленных источников.

Привет! Попробуй Perplexity в режиме исследования и далее поиска. Интересно закручивает ответы и подгружает данные, он думает - это уже не мало важно. Жду теста, спасибо за инфу!

попробуй wormgpt