Simple AI Scripts (Ollama)

Коллекция простых скриптов для работы с Ollama LLM.

Требования

• Python 3.8+
• Ollama сервер на mi_ip_v4:11434
• Доступ к моделям на Ollama сервере

Установка

pip install -r requirements.txt

Скрипты

1. simple-chat.py

Простой чат без сохранения истории диалога.

• Модель по умолчанию: gpt-oss:20b
• Каждый запрос обрабатывается независимо

python simple-chat.py

2. chat-history.py

Чат с сохранением истории диалога.

• Модель по умолчанию: gpt-oss:20b
• История сохраняется в течение всей сессии

python chat-history.py

3. simple-agent.py

AI агент с возможностью выполнения SSH команд на удаленных серверах.

• Модель по умолчанию: deepseek-r1:32b
• Поддержка function calling для SSH команд

python simple-agent.py

Рекомендации по выбору модели

Вы можете изменить модель в каждом файле, изменив переменную model_name:

Для агента с функциями (simple-agent.py):

• deepseek-r1:32b - лучший выбор для reasoning и function calling
• llama3.3:70b-instruct-q4_K_M - самая мощная, но медленнее
• qwq:32b - хорошая альтернатива для reasoning

Для обычных чатов (simple-chat.py, chat-history.py):

• gpt-oss:20b - быстрая и эффективная (13 GB)
• deepseek-r1:32b - лучшее качество ответов (19 GB)
• llama3.3:70b - максимальное качество, но медленнее (42 GB)

Для работы с кодом:

• deepseek-coder:33b
• qwen2.5-coder:32b
• qwen3-coder:30b

Настройка

В каждом файле можно изменить:

• OLLAMA_HOST - адрес Ollama сервера
• model_name - используемая модель
• generation_config - параметры генерации (temperature, top_p, top_k)
• system_instruction - системные инструкции для модели

Использование

1. Запустите нужный скрипт
2. Введите ваш запрос
3. Для выхода введите exit

SSH агент

Для работы simple-agent.py требуется:

• SSH ключ в ~/.ssh/id_rsa
• Доступ к серверам по SSH через пользователя kirill

Агент может автоматически выполнять SSH команды на указанных серверах по вашему запросу.