large-language-model

Вопрос или проблема В настоящее время я пытаюсь создать чат-бота с помощью Ollama с RAG для чтения PDF в качестве ссылки. Однако я сталкиваюсь с проблемой, когда ответы чат-бота содержат информацию из PDF, даже когда я не задаю вопросы, связанные с PDF.

Вопрос или проблема Как технологии RAG могут улучшить уход за пациентами, извлекая актуальные медицинские исследования и генерируя индивидуализированные рекомендации по лечению? Как технологии RAG могут улучшить уход за пациентами, извлекая актуальные

Вопрос или проблема В настоящее время я использую следующий llm, как упоминалось выше. Я использую unsloth для более быстрой обработки. Параметры, с которыми я загрузил модель, приведены ниже: model, tokenizer = FastLanguageModel.

Вопрос или проблема Я создал LLM, который взаимодействует с Python с помощью LangChain и LlamaCpp. Я использовал буфер памяти LangChain, но хочу, чтобы мой LLM запоминал предыдущие разговоры даже после перезапуска кода. Как я могу этого добиться?

Вопрос или проблема У меня есть вопрос относительно оптимизации LLM для использования в приложениях, таких как генеративные агенты: https://github.com/joonspk-research/generative_agents В такой агентной среде каждый агент неоднократно запрашивает API

Вопрос или проблема Я пытаюсь запустить следующий код, который я увидел в учебном пособии. Я пытаюсь запустить API OpenAI и сгенерировать несколько заголовков для блога. from langchain.prompts.chat import ChatPromptTemplate from langchain_openai import ChatOpenAI import os os.

Вопрос или проблема Закрыто. Этот вопрос должен быть более сфокусированным. На данный момент он не принимает ответы. Хотите улучшить этот вопрос? Обновите вопрос, чтобы он фокусировался только на одной проблеме, отредактировав этот пост.

Вопрос или проблема Я попробовал сервис поиска Snowflake Cortex, и ответы на запросы очень неточные. Я подозреваю, что встроенная LLM не достаточно хороша. Как изменить LLM? Кроме того, я не могу получить доступ к Cortex Playground, мне нужна помощь и с этим. query=”

Вопрос или проблема Я провожу оценку на наборах данных Hugging Face, таких как hotpot-qa. Но результаты выглядят так: 'precision_at_2/mean': 0.0, 'recall_at_2/mean': 0.0, 'ndcg_at_2/mean':0.0 ......... Я не знаю, почему получаю нули. Вот мой датафрейм. Результаты –

Вопрос или проблема Несравненное поведение unsloth lora_adapter по сравнению с чистой моделью Unsloth Llama 3.1 (8B) ▶️ Начать бесплатно Я использую приведенный выше пример кода unsloth с моими данными для тонкой настройки с помощью lora_adapter, но когда

Вопрос или проблема Я подготовил код для сравнения 2 документов, но он также отвечает на основе другой информации. Я не хочу этого. Как я могу достичь этой цели? Я не хочу https://blog.langchain.dev/improving-document-retrieval-with-contextual-compression/.