Если вы хотите пользоваться ИИ-ассистентом, не отправляя тексты и документы в облачный сервис, возможным решением может стать Anything LLM. По данным t3n, этот бесплатный инструмент объединяет чат-бот, веб-поиск и встроенное хранилище знаний. К ним добавляются агентные возможности. Издание описывает приложение как универсальное решение для локального использования ИИ.
Что означают отдельные блоки
Чат-бот — это привычный интерфейс: вы задаёте вопросы или ставите задачи и получаете ответы языковой модели. В локальном решении эта модель работает на вашем компьютере или в вашей собственной сети, а не у внешнего провайдера.
Веб-поиск должен смягчить известную проблему. Языковые модели знают только то, чему они научились при обучении. Благодаря функции поиска ассистент может дополнительно привлекать актуальную информацию из сети.
Хранилище знаний нужно для того, чтобы использовать собственные документы. Принцип такой: при вопросе ассистент обращается к сохранённым материалам и может опираться на них в ответе. Так, например, можно искать по внутренним материалам, не передавая их третьим лицам.
Агентные возможности в общем случае означают, что система не просто отвечает, а разбивает задачи на шаги и использует для них инструменты, например веб-поиск.
Кому это может быть интересно
Прежде всего читателям, для которых важна защита данных, например при работе с конфиденциальными заметками, договорами или документами компании. Тем, кто предпочитает иметь несколько функций в одном приложении, а не в отдельных программах, такой комплексный пакет тоже может пригодиться.
Тем не менее на несколько моментов стоит обратить внимание. Локальным моделям нужна вычислительная мощность, а качество их ответов зависит от выбранной модели и от оборудования. Кроме того, веб-поиск неизбежно отправляет запросы наружу. Тот, кто хочет работать строго офлайн, должен внимательно следить за тем, какие функции он включает.
О том, как Anything LLM показывает себя в тесте и как проходит настройка, рассказывается в оригинальной статье t3n.
