앤트로픽의 도구와 클로드 3로 작업을 자동화하는 방법은 무엇인가요?
Anthropic의 도구 시작하기
업무에 LLM을 사용하는 가장 큰 장점은 다용도로 활용할 수 있다는 점입니다. LLM은 텍스트 생성을 위한 API로 작동하거나 비정형 데이터를 정리된 형식으로 변환하는 등 다양한 용도에 맞게 특정 방식으로 프롬프트할 수 있습니다. 많은 사람들이 이메일을 작성하거나 AI와 장난스러운 토론을 벌이는 등 일상적인 업무에서 ChatGPT를 사용합니다.
‘GPT’라고도 하는 플러그인의 아키텍처는 응답과 쿼리에서 키워드를 식별하고 관련 기능을 실행하는 것을 중심으로 이루어집니다. 이러한 플러그인을 사용하면 외부 애플리케이션과 상호 작용하거나 사용자 지정 기능을 트리거할 수 있습니다.
OpenAI가 작업 실행을 위한 외부 함수 호출을 지원하는 데 앞장섰다면, 최근 Anthropic은 ‘도구 사용’이라는 향상된 기능을 도입하여 이전의 함수 호출 메커니즘을 대체했습니다. 이 업데이트된 버전은 XML 태그 대신 JSON을 활용하여 개발을 간소화합니다. 또한 클로드 3 오푸스는 특정 시나리오에서 특히 가치 있는 200만 토큰의 더 큰 컨텍스트 창으로 GPT 모델보다 유리합니다.
이 블로그에서는 ‘도구 사용’의 개념을 살펴보고, 그 기능에 대해 논의하며, 시작하기 위한 지침을 제공합니다.
‘도구 사용’이란 무엇인가요?
Claude는 외부 클라이언트 측 도구 및 기능과 상호 작용할 수 있는 기능을 갖추고 있어 더 다양한 작업을 위한 사용자 지정 도구를 Claude에 장착할 수 있습니다.
Claude와 함께 도구를 사용하는 워크플로우는 다음과 같습니다:
- 클로드에게 도구와 사용자 프롬프트 (API 요청)를 제공합니다.
- 클로드가 선택할 수 있는 도구 세트를 정의합니다.
- 텍스트 생성 프롬프트에 사용자 쿼리와 함께 포함하세요.
- Claude가 도구를 선택합니다.
- Claude는 사용자 프롬프트를 분석하고 사용 가능한 모든 도구와 비교하여 가장 관련성이 높은 도구를 선택합니다.
- LLM의 ‘사고’ 프로세스를 활용하여 관련 도구에 필요한 키워드를 식별합니다.
- 응답 생성 (API 응답)
- 프로세스가 완료되면 선택한 도구 및 매개변수와 함께 사고 프롬프트가 출력으로 생성됩니다.
이 프로세스에 따라 선택한 함수/도구를 실행하고 필요한 경우 출력을 활용하여 다른 응답을 생성합니다.
도구의 일반 스키마
이 스키마는 함수 호출 프로세스에 대한 요구 사항을 LLM에 전달하는 수단으로 사용됩니다. 직접 함수를 호출하거나 자체적으로 어떤 동작을 트리거하지 않습니다. 도구를 정확하게 식별하려면 각 도구에 대한 자세한 설명을 제공해야 합니다. Properties 는 나중에 함수에 전달될 매개변수를 식별하는 데 사용됩니다.
데모
이제 웹을 스크래핑하여 주식의 가격을 찾는 도구를 만들어 보겠습니다.
도구 스키마
scrape_website 도구에서 사용자 프롬프트에서 웹사이트의 URL을 가져옵니다. stock_price 도구의 경우, 사용자 프롬프트에서 회사 이름을 식별하고 이를 와이파이낸스 티커로 변환합니다.
사용자 프롬프트
봇에게 각 도구에 대해 하나씩 두 개의 쿼리를 요청하면 다음과 같은 결과가 나옵니다:
사고 과정에는 각 쿼리에 맞는 올바른 도구를 정확하게 선택하고 도구 설명에 설명된 대로 필요한 변환을 실행하기 위해 LLM이 취한 모든 단계가 나열되어 있습니다.
관련 도구 선택
조건에 따라 관련 기능을 트리거하는 몇 가지 추가 코드를 작성해야 합니다.
이 함수는 LLM 응답에서 검색된 도구 이름을 기반으로 적절한 코드를 활성화하는 역할을 합니다. 첫 번째 조건에서는 도구 입력에서 얻은 웹사이트 URL을 스크랩하고, 두 번째 조건에서는 주식 시세를 가져와서 yfinance 파이썬 라이브러리로 전달합니다.
함수 실행하기
select_tool() 함수에 ToolUseBlock 전체를 전달하여 관련 코드를 트리거합니다.
출력
- 첫 번째 프롬프트
- 두 번째 프롬프트
이 데모의 전체 소스 코드를 보려면 이 노트북을 참조하세요.
몇 가지 사용 사례
Claude의 ‘도구 사용’ 기능은 LLM의 활용성을 완전히 새로운 차원으로 끌어올립니다. 제공된 예제는 기본적인 기능이지만 기능 확장을 위한 기초 역할을 합니다. 다음은 실제 적용 사례입니다:
어제 @AnthropicAI가 도구 사용 베타 버전을 출시했습니다!
실제로 문제를 해결할 수 있는 고객 서비스 봇을 구축한 예는 다음과 같습니다!
사람들이 또 어떤 작품을 만들지 기대됩니다! https://t.co/Xmi7pnwouS pic.twitter.com/T5bE4peexR
– 에릭 슐런츠 (@ErikSchluntz) April 5, 2024
더 많은 사용 사례를 확인하려면 Anthropic의 공식 리포지토리(
에서
.
