LlamaIndex
LlamaIndex — фреймворк для RAG: индексация документов, ретриверы, агенты. Все обёртки LLM и Embeddings принимают api_base/api_key, поэтому подключение к GETAPI ничем не отличается от прямого OpenAI.
LLM
python
from llama_index.llms.openai import OpenAI
llm = OpenAI(
model="gpt-4o-mini",
api_key="sk-getapi-...",
api_base="https://api.getapi.ru/openai/v1",
)
print(llm.complete("Привет!").text)Embeddings
python
from llama_index.embeddings.openai import OpenAIEmbedding
embed = OpenAIEmbedding(
model="text-embedding-3-small",
api_key="sk-getapi-...",
api_base="https://api.getapi.ru/openai/v1",
)Глобальные настройки
python
from llama_index.core import Settings Settings.llm = llm Settings.embed_model = embed # Дальше любой index/retriever будет ходить через GETAPI