GigaChat - мультимодальная нейросетевая модель. Умеет отвечать на вопросы, вести диалог и писать код
Note
О том как подключить GigaChat читайте в официальной документации.
Модуль поддерживает работу как в синхронном, так и в асинхронном режиме. Кроме этого модуль поддерживает обработку потоковой передачи токенов.
Библиотеку можно установить с помощью pip:
pip install gigachatВот простой пример работы с чатом с помощью модуля:
"""Пример работы с чатом"""
from gigachat import GigaChat
from gigachat.models import Chat, Messages, MessagesRole
payload = Chat(
messages=[
Messages(
role=MessagesRole.SYSTEM,
content="Ты эмпатичный бот-психолог, который помогает пользователю решить его проблемы."
)
],
temperature=0.7,
max_tokens=100,
)
# используйте данные из поля Авторизационные данные
with GigaChat(credentials=..., verify_ssl_certs=False) as giga:
while True:
user_input = input("User: ")
payload.messages.append(Messages(role=MessagesRole.USER, content=user_input))
response = giga.chat(payload)
payload.messages.append(response.choices[0].message)
print("Bot: ", response.choices[0].message.content)Note
Для начала использования:
- Подключите сервис GigaChat
- В созданном проекте GigaChat сгенерируйте Client Secret и сохраните данные из поля Авторизационные данные
Больше примеров в examples.
Авторизация по логину и паролю
giga = GigaChat(
base_url="https://beta.saluteai.sberdevices.ru/v1",
user=...,
password=...,
)По ранее полученному access_token
giga = GigaChat(access_token=...)Отключаем авторизацию (например когда авторизация средствами service mesh istio)
giga = GigaChat(use_auth=False)Отключаем проверку сертификатов (небезопасно)
giga = GigaChat(verify_ssl_certs=False)Настройки можно задать через переменные окружения используется префикс GIGACHAT_
export GIGACHAT_CREDENTIALS=...
export GIGACHAT_VERIFY_SSL_CERTS=Falseexport GIGACHAT_BASE_URL=https://beta.saluteai.sberdevices.ru/v1
export GIGACHAT_USER=...
export GIGACHAT_PASSWORD=...