nat.plugins.llama_index.llm

Attributes

ModelType

Functions

_patch_llm_based_on_config(→ ModelType)
aws_bedrock_llama_index(llm_config, _builder)
azure_openai_llama_index(llm_config, _builder)
nim_llama_index(llm_config, _builder)
openai_llama_index(llm_config, _builder)
litellm_llama_index(llm_config, _builder)

Module Contents

ModelType

_patch_llm_based_on_config(

client: ModelType,

llm_config: nat.data_models.llm.LLMBaseConfig,

) → ModelType

async aws_bedrock_llama_index(

llm_config: nat.llm.aws_bedrock_llm.AWSBedrockModelConfig,

_builder: nat.builder.builder.Builder,

)

async azure_openai_llama_index(

llm_config: nat.llm.azure_openai_llm.AzureOpenAIModelConfig,

_builder: nat.builder.builder.Builder,

)

async nim_llama_index(

llm_config: nat.llm.nim_llm.NIMModelConfig,

_builder: nat.builder.builder.Builder,

)

async openai_llama_index(

llm_config: nat.llm.openai_llm.OpenAIModelConfig,

_builder: nat.builder.builder.Builder,

)

async litellm_llama_index(

llm_config: nat.llm.litellm_llm.LiteLlmModelConfig,

_builder: nat.builder.builder.Builder,

)