Когда стоит создавать собственную систему обвязки для агентов | Харрисон Чейз, LangChain
Агент — это инструмент, управляющий моделью и контекстом. Если вы хотите контролировать свой интеллект, вам, вероятно, нужно контролировать все три компонента. Соучредитель и генеральный директор LangChain Харрисон Чейз фокусируется на инструменте: цикле, который обеспечивает модель необходимым контекстом в нужное время, и на том, как его настраивать с помощью промежуточного ПО, хуков и субагентов. На мероприятии Sequoia Capital «Own Your Intelligence» Харрисон объясняет, когда достаточно готового инструмента, а когда следует создавать свой собственный (чем больше задач выполняется вне дистрибутива, тем больше потребуется настроек), и почему даже пользовательские инструменты должны сохранять компоненты, используемые в дистрибутиве, такие как редактирование файлов, максимально приближенными к тому, как обучалась каждая модель. Он также рассказывает о создании бенчмарков, о том, почему наблюдаемость недооценивается при отладке агентов, и о механизме обработки данных, который превращает производственные трассировки в улучшения инструмента, модели и контекста. 00:00 Введение 00:58 Три составляющие агента: шаблон, модель, контекст 02:12 Что на самом деле делает шаблон 03:25 Настройка основного цикла с помощью промежуточного ПО 04:41 Песочницы, файловые системы, субагенты, суммирование 05:47 Когнитивные архитектуры — и когда они все еще нужны 07:03 Создать свой собственный шаблон или использовать готовый? 08:24 Встроенные и невстроенные данные: пример редактирования файлов 09:39 Почему оценки определяют, что значит «хорошо» в организации 11:04 Harbor: как на самом деле выглядит задача оценки 12:11 Сравнение инструментов и моделей по точности, задержке и стоимости 13:20 Почему наблюдаемость недооценена — обычно дело в контексте 14:34 Маховик данных: трассировки → курирование → эксперименты 15:42 Получение обратной связи через UX-дизайн и онлайн-оценщиков 16:51 Демонстрация: LangSmith Engine 19:23 Вопросы и ответы: Запуск Engine на Engine и «кодексификация» 20:44 Вопросы и ответы: Будут ли инструменты сходиться или расходиться?
Название:
Когда стоит создавать собственную систему обвязки для агентов | Харрисон Чейз, LangChain
Категория:
Разное