LangChain
LangChain работает с GETAPI «из коробки» — у всех LLM-обёрток есть параметры base_url/api_key. Ниже примеры для трёх семейств моделей.
ChatOpenAI
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="gpt-4o-mini",
api_key="sk-getapi-...",
base_url="https://api.getapi.ru/openai/v1",
)
print(llm.invoke("Привет!").content)ChatAnthropic
from langchain_anthropic import ChatAnthropic
llm = ChatAnthropic(
model="claude-sonnet-4-6",
api_key="sk-getapi-...",
base_url="https://api.getapi.ru/anthropic",
)ChatGoogleGenerativeAI
from langchain_google_genai import ChatGoogleGenerativeAI
llm = ChatGoogleGenerativeAI(
model="gemini-2.5-flash",
google_api_key="sk-getapi-...",
transport="rest",
client_options={"api_endpoint": "api.getapi.ru/google"},
)Embeddings и vectorstore
Аналогично — OpenAIEmbeddings с тем же base_url возвращает векторы, которые можно положить в Qdrant, pgvector или Chroma.