llm

Вопрос или проблема В этой статье An Exploration of Large Language Models in Malicious Source Code Detection упоминается “code-mutl-model”, но они не предоставляют информацию о происхождении этой модели (аналогично code-llama).

Вопрос или проблема Контекст Дорогие телефоны, такие как последние премиальные устройства Pixel/Samsung/Motorola/Xiaomi/Realme, имеют встроенные LLM, доступные для приложений через Google AI Edge SDK / AICore для Android, они могут отвечать на запросы

Вопрос или проблема Я ищу решение для обнаружения ссылок и цитат в документах. Например, ссылка выглядит как “[..] относится к разделу 3.1 документа XY“. Насколько я знаю, есть два подхода к решению этой задачи: –

Вопрос или проблема Какие бесплатные и платные инструменты можно использовать для тестирования приложений LLM – Тестирование интерфейса пользователя LLM Тестирование API LLM Тестирование производительности LLM Какие факторы следует учитывать при

Вопрос или проблема Какие есть альтернативы для Langchain на Python? Библиотека, являющаяся абстракцией для взаимодействия с другими библиотеками, такими как OpenAI’s. https://github.com/deepset-ai/haystack — это довольно популярная альтернатива Langchain.

Вопрос или проблема Привет, энтузиасты LLM. Интересно, есть ли современные подходы к тонкой настройке модели в соседнем проекте, если: область документов ограничена (но больше, чем просто несколько), эти документы регулярно имеют взаимосвязи.

Вопрос или проблема Как обрабатывать сложные файлы RAG локально? Сложные файлы RAG Привет, я работаю над проектом, связанным с созданием чат-приложения на Streamlit, которое позволяет пользователям (владельцам проектов) продвигать свои проекты на различных

Вопрос или проблема Мне интересно узнать, после того как я увидел хорошие примеры кода, созданные Github copilot. Я задаюсь вопросом, могу ли я создать агента, который в основном принимает команды на обычном английском и генерирует код на основе одной конкретной библиотеки.

Вопрос или проблема Существуют ли альтернативы для langchain на Python? Библиотека, которая является абстракцией для взаимодействия с другими библиотеками, такими как OpenAI. Ответ или решение Альтернативы Langchain для Python: Подробный Анализ Вопрос

Вопрос или проблема В OpenAI ChatGPT можно скачать дамп данных. Перейдите в правый верхний угол, чтобы открыть параметры, нажмите “Настройки”, затем “Управление данными” и затем “экспорт”. Вы получите ссылку для скачивания.

Вопрос или проблема По сути, это идентично этому браузерному расширению для ChatGPT, за исключением того, что это плагин/дополнение для Visual Studio, который обрабатывает вывод Github Copilot. Одним из недостатков Copilot является то, что вы не можете

Вопрос или проблема В образовательных целях мне нужно отслеживать разговоры с ChatGPT, поэтому я хочу сохранять их в виде файлов Markdown. Он должен интегрироваться в браузер, будь то Firefox, Chrome или Opera. Он сохраняет один чат как один файл Markdown.

Вопрос или проблема Это всё, я ищу инструмент, который поможет мне кратко изложить каждую главу/раздел книги независимо (с некоторым контекстом предыдущих глав, как если бы вы её читали). Сначала я хотел бы начать с чтения pdf-файлов.

Вопрос или проблема Здравствуйте, StackExchanger’s, я программный инженер, интересующийся изучением Retrieval-Augmented Generation (RAG) для моего исследования. Однако я новичок в этой области и не имею практического опыта в NLP, NLU или Deep Learning.

Вопрос или проблема Я начал работать с LLM в последнее время и хочу узнать, как люди выбирают свои предобученные модели для задач дообучения? Каковы критерии выбора базовой модели и какие факторы на это влияют? Их слишком много!

Вопрос или проблема Wfinetuned = Wpretrained + ΔW, так что мы делаем ΔW = A @ B и |ΔW| >> |A| + |B|, мы счастливы. Но почему мы не используем тот же метод во время обучения? Итак, Wtrained = Winitialized + ΔW, и все еще |ΔW| >> |A| + |B|? И далее мы можем сделать […

Вопрос или проблема Каковы основные альтернативы для управления промтами в настоящее время? Под управлением промтами я подразумеваю комплексное решение для отслеживания экспериментов по созданию промтов, а также регистрацию промтов на различных стадиях

Вопрос или проблема Почему так важно НИКОГДА не позволять модели видеть одни и те же тексты несколько раз, как мы делаем, например, в компьютерном зрении? Или на самом деле все должно быть наоборот, и из-за того, что у нас маленькие наборы данных изображений

Вопрос или проблема Контекст Я управляю портфелем объектов недвижимости на таких платформах, как Airbnb, осуществляя поддержку клиентов на протяжении всего пребывания гостей (от предварительного бронирования до завершения проживания).

Вопрос или проблема Я работаю с большой языковой моделью (LLM), которая требует большого контекстного окна в 60 000–70 000 токенов для моего приложения. Моя конфигурация включает пять графических процессоров (GPU): три с 16 ГБ и два с 8 ГБ.