Author: Om Kamath

오늘날 비즈니스에 AI 직원이 필요한 이유

현대 업무 환경에서 ChatGPT와 같은 AI 솔루션의 혁신적 힘을 부인할 수 없습니다. 이메일 초안 작성 간소화부터 정신 건강 지원까지, ChatGPT는 일상 업무에 접근하는 방식을 혁신적으로 바꾸고 있습니다. 하지만 특정 비즈니스 지식창고에 대한 사용자 지정이 부족하다는 등의 한계가 없는 것은 아닙니다. 코딩이 필요 없는 번거로움 없는 솔루션으로 조직에 최고의 AI를 도입할 수 있는 Cody를 만나보세요.

AI가 조직에 도움이 되는 세 가지 방법을 살펴보세요:

교육: 정적 교육에서 동적 교육으로

기존의 교육 방법에는 종종 정적이고 사전 정의된 흐름이 포함되는데, 이는 참여도가 떨어질 뿐만 아니라 비즈니스 요구사항에 꼭 맞지도 않습니다. AI를 활용하면 직원 교육 프로그램에 역동성과 상호 작용을 더할 수 있습니다.

Cody를 사용하면 PDF든 Word 문서든 기존 교육 문서를 업로드하는 것만큼이나 간단합니다. 미리 만들어진 봇 템플릿 중에서 선택하거나 고급 봇 빌더를 사용하여 코디의 개성을 원하는 대로 커스터마이징할 수 있습니다. 몇 가지 간단한 단계만 거치면 각 직원의 요구 사항을 충족하는 맞춤형 온보딩 코치를 확보하여 교육 프로그램의 효과와 직관성을 높일 수 있습니다.

검색: 지식 접근성 높이기

직원들이 데이터를 검색하는 데 오랜 시간을 소비한다면 잘 문서화된 비즈니스 지식 기반이 무슨 소용이 있을까요? Cody와 같은 AI 기반 솔루션은 내부 검색 엔진처럼 작동하여 조직 내에서 정보에 액세스하는 방식을 혁신합니다.

비즈니스 지식이 코디에 업로드되면 자연어로 작성된 모든 쿼리는 특정 데이터에서 생성된 정확하고 일관된 응답을 통해 충족됩니다. 24시간 연중무휴로 모든 문의를 처리할 수 있는 전문가가 상주하는 것과 같습니다. 끝없는 데이터를 목적 없이 검색하던 시대는 지났습니다.

자동화: 자동화: 워크플로 간소화

최신 업데이트를 통해 자동화를 한 단계 더 발전시킬 수 있습니다. 이제 Cody는 Zapier와 원활하게 통합되어 효율적일 뿐만 아니라 사용자 친화적인 AI 기반의 자동화된 워크플로우를 구축할 수 있습니다. 일상적인 작업을 자동화하면 직원들이 더 의미 있는 업무에 집중할 수 있습니다. 또한 코디의 AI 기능을 통해 생성된 콘텐츠는 사람이 제작할 수 있는 콘텐츠와 동등하거나 더 나은 수준입니다.

재피어는 코디를 5,000개 이상의 앱과 연결할 수 있는 도구로, 무한한 가능성의 세계를 열어줍니다.

미래는 지금, 그리고 코디입니다.

교육, 검색, 워크플로 자동화에 미치는 영향에 초점을 맞춰 업무 환경에서 AI의 혁신적 힘을 자세히 살펴봤습니다. 코디와 같은 플랫폼을 통해 미래는 먼 현실이 아니라 바로 지금 여기에서 일어나고 있습니다. AI의 통합은 운영 효율성을 간소화할 뿐만 아니라 비용을 의미 있게 절감하고 직원 만족도를 높일 수 있습니다.

그렇다면 왜 기다릴까요? 확장을 모색하는 스타트업이든 현대화를 목표로 하는 기존 기업이든, 지금이 바로 AI 솔루션을 도입하기에 완벽한 시기입니다. 매력적인 혜택과 입증된 실적을 갖춘 Cody는 미래의 업무로 도약하고자 하는 사람들에게 번거로움이 없는 노코드 옵션을 제공합니다.

업무 환경의 역동성을 혁신할 수 있는 기회를 놓치지 마세요. 여기를 클릭하여 코디와 함께 여정을 시작하고 불가능하다고 생각했던 효율성과 혁신의 세계를 발견하세요.

Cody를 사용하여 몇 번의 클릭만으로 회사 데이터를 매력적인 내러티브로 전환하세요.

플랫폼 호환성을 높여달라는 요청을 여러 차례 받은 후, 최신 업데이트인 코디용 재피어 통합을 공개하게 되어 기쁩니다. 클릭 몇 번으로 5,000개 이상의 앱으로 구성된 방대한 에코시스템과 코디를 손쉽게 연결할 수 있는 가능성의 세계가 열립니다. Discord 및 Slack과의 기존 통합 기능을 훨씬 뛰어넘어 Cody의 기능을 확장하고 다양한 플랫폼에서 자동화의 힘을 활용하세요. 이 문서에서는 Cody와 Zapier를 사용하여 AI로 LinkedIn 게시물을 강화하는 방법을 설명합니다.

목차

1. 재피어란 무엇인가요?
2. OpenAI API 대신 코디를 선택해야 하는 이유는 무엇인가요?
3. Zapier로 코디의 워크플로우 자동화를 시작하려면 어떻게 해야 하나요?
   1. 1단계: 봇 만들기
   2. 2단계: 재피어 통합 활성화하기
   3. 3단계: 재피어 설정
   4. 4단계: Zap 구축하기
4. 최종 결과
5. 다음 단계는 무엇인가요?

재피어란 무엇인가요?

자동화 환경을 처음 접하는 분들을 위해 Zapier는 수많은 앱 사이에 코드가 필요 없는 가교 역할을 하므로 복잡한 기술 노하우를 익히거나 여러 API 키와 씨름할 필요가 없습니다. 기본적으로 다양한 플랫폼에서 기능을 통합하고 자동화하는 사용자 친화적인 방법으로, 그 어느 때보다 쉽게 Cody의 기능을 확장할 수 있습니다.

재피어 생태계에서 사용할 수 있는 인기 앱 중 일부입니다:

• Google 스프레드시트
• Google 문서 도구
• 느슨하게
• 텔레그램
• 인스타그램
• 페이스북 메신저

OpenAI API 대신 코디를 선택해야 하는 이유는 무엇인가요?

Cody AI는 비즈니스 자동화 및 지원에 대한 맞춤형 접근 방식을 제공하여 범용 GPT API와 차별화됩니다. GPT API와 달리 코디를 사용하면 자체 지식 베이스를 사용하여 비즈니스, 팀, 프로세스, 심지어 고객 데이터에 대해 어시스턴트를 구체적으로 교육할 수 있습니다. 이렇게 하면 별도의 지식창고를 유지하고 시맨틱 검색 엔진을 구현해야 하는 기술적인 복잡성(기술에 익숙하지 않은 경우 어려울 수 있는 문제)을 줄일 수 있습니다.

또한 Cody는 구독 요금제에 따라 다양한 GPT 모델에 액세스할 수 있는 보다 포괄적인 솔루션을 제공합니다. 또한 Word / PDF 문서, 크롤링 웹 페이지와 같은 다양한 문서 유형을 지원하며 기존 비즈니스 운영에 원활하게 통합되도록 설계된 사용자 지정 및 임베드 가능한 위젯을 제공합니다. Cody를 사용하면 특정 요구 사항을 충족하는 다양한 기능을 갖춘 포괄적인 플랫폼을 사용할 수 있습니다.

Zapier로 코디의 워크플로우 자동화를 시작하려면 어떻게 해야 하나요?

코디와 재피어가 얼마나 잘 연동되는지 보여드리기 위해 간단한 자동화를 안내해드리겠습니다. 이 글에서는 코디와 재피를 사용하여 AI로 LinkedIn 게시물을 향상시키는 방법에 대해 설명합니다. 이 설정을 사용하면 LinkedIn에 게시할 내용에 대한 메시지를 Slack에 입력할 수 있습니다. 단 몇 초 만에 해당 메시지가 실제 LinkedIn 게시물로 자동 변환됩니다. 코디와 재피어가 제공하는 빠르고 쉬운 방법으로 소셜 미디어를 확장할 수 있습니다.

1단계: 봇 만들기

트위터 웹사이트에서 봇 생성 과정을 안내하는 다양한 블로그를 찾아볼 수 있습니다. 하지만 간략한 개요를 말씀드리자면, 봇은 기본적으로 두 가지 주요 구성 요소로 이루어져 있습니다:

1. 봇 성격: 봇이 상호작용하는 방식에 대한 톤, 분위기, 스타일을 설정합니다. 감정적 맥락부터 응답의 길이와 관련성까지 모든 것을 다룹니다.
2. 지식 베이스: 모든 중요한 문서가 보관되는 곳입니다. 봇이 정확하고 유용한 응답을 생성하는 데 도움이 되는 컨텍스트를 제공합니다.

이 두 가지 구성 요소가 함께 봇의 효율성과 사용자 친화성을 결정합니다. 이 특정 데모에서는 부동산 웹사이트의 크롤링된 데이터에서 컴파일된 지식창고를 사용하겠습니다. 이 과정을 따라 비슷한 자동화를 만들고 싶다면 자체 비즈니스 웹사이트를 크롤링하여 봇의 지식창고를 채울 수 있습니다.

프롬프트:

시스템 프롬프트 :

2단계: 재피어 통합 활성화하기

Zapier 통합을 사용 설정하려면 계정 > 통합으로 이동하여 Zapier를 설치하세요.

설치를 클릭하면 Zapier로 리디렉션되며, 여기서 초대를 수락해야 합니다.

이렇게 하면 Zapier 계정에서 코디 통합을 성공적으로 활성화한 것입니다.

3단계: 재피어 설정

통합을 활성화한 후에는 액세스 토큰을 사용하여 Zapier가 코디 계정에 액세스할 수 있도록 허용해야 합니다. 액세스 토큰을 만들려면 계정 > API 키 > API 키 만들기로 이동해야 합니다. API 키를 복사하여 Zapier 계정에 붙여넣습니다.

이제 사용자 지정 Zap을 만들 준비가 완료되었습니다.

4단계: Zap 구축하기

새 Zap을 만들려면 + 만들기 > 새 Zap을 클릭합니다.

설정에서 두 가지 주요 이벤트가 발생합니다:

1. 트리거: 자동화를 시작하는 초기 이벤트 또는 “Zap”입니다. 새 메시지 수신부터 예약된 시간까지 모든 것이 가능합니다.
2. 액션: 트리거를 따라 메시지 보내기 또는 테이블에 데이터 추가와 같은 특정 작업을 실행합니다.

Zap 구축에 들어가기 전에 워크플로우를 명확하게 파악해 보겠습니다. 아래 다이어그램에 설명된 대로, 사용자가 공개 Slack 채널에서 게시물 설명과 함께 봇의 이름을 언급하면 프로세스가 시작됩니다. 예를 들어, “@Zapier 빌라 홈이 다른 서비스보다 나은 이유를 강조하는 게시물을 작성하세요.”

그런 다음 이 초기 메시지는 핵심 콘텐츠만 남기고 봇 이름을 제거하도록 서식이 지정됩니다. 이렇게 서식이 지정된 텍스트는 Cody로 전송되어 LinkedIn 캡션 또는 게시물을 생성합니다. 마지막으로 이렇게 생성된 콘텐츠는 LinkedIn에 자동으로 게시됩니다.

간단히 말해, Cody와 Zapier의 도움을 받아 Slack 메시지를 LinkedIn 게시물로 변환하는 간소화된 프로세스를 설정하는 것입니다.

Slack 워크스페이스에서 메시지 가져오기를 시작하려면, 아직 연결하지 않았다면 먼저 Slack 계정을 Zapier에 연결해야 합니다. ‘트리거’ 이벤트의 경우 ‘새 멘션’을 선택합니다. 이렇게 하면 지정된 봇이 공개 Slack 채널에서 언급될 때마다 Zap이 작동합니다. 이 경우 ‘게시’라는 단어가 포함된 메시지에서 Zapier 봇이 언급되면 Zap이 활성화됩니다. 이렇게 하면 자동화가 의도한 LinkedIn 게시물을 구체적으로 타겟팅할 수 있습니다.

트리거를 성공적으로 테스트했으면 이제 Slack 메시지 서식 지정으로 넘어갈 차례입니다. 봇 이름을 제거하고 메시지의 핵심 콘텐츠를 분리하기 위해 Zapier의 포맷터 도구에 있는 ‘바꾸기’ 기능을 사용합니다. 이렇게 하면 LinkedIn 게시물을 생성하기 위해 필수 텍스트만 Cody에게 전달됩니다.

이제 LinkedIn 게시물을 생성하기 위해 Cody 액션을 설정할 차례입니다. 방금 만든 봇을 선택하고 Slack에서 형식이 지정된 텍스트를 쿼리로 사용합니다. 이렇게 하면 Cody가 정리된 메시지를 가져와서 LinkedIn에 맞는 게시물로 바꾸도록 지시합니다.

마지막 단계는 실제로 LinkedIn에 업데이트를 게시하는 것입니다. Cody가 생성한 응답을 사용하여 LinkedIn 작업의 댓글로 입력합니다. 이렇게 하면 Cody가 작성한 메시지가 LinkedIn 계정에 바로 게시되어 자동화 프로세스가 완료됩니다.

최종 결과

슬랙 대화

LinkedIn 게시물

다음 단계는 무엇인가요?

이 글에서는 간단하면서도 강력한 예시를 통해 코디가 Zapier를 통해 자동화 워크플로우에 AI를 원활하게 통합하는 방법을 설명했습니다. Zapier의 방대한 인기 앱 라이브러리를 활용하면 창의적인 자동화의 가능성은 무한합니다. 또한 지식창고에서 사용할 수 있는 문서의 범위를 넓혀주는 ‘문서 업로드’ 작업을 곧 Zapier에 추가할 예정이라는 소식도 알려드리게 되어 기쁩니다.

Zap을 성공적으로 설정하고 경험을 공유하고 싶으시다면 디스코드 서버에 가입하여 다른 사람들에게 영감을 주세요. 문제 해결이 필요한 경우‘도움말 받기’ 기능을 통해 문의하실 수 있습니다.

비즈니스 자동화 요구사항에 따라 코디를 최대한 활용하는 데 도움이 되는 문서를 지속적으로 배포할 예정입니다. 더 많은 소식을 기대해주세요!

인공지능이라는 용어가 생소한 것은 아니지만, 2022년 11월 ChatGPT가 출시되면서 인공지능이 인간의 일자리를 대체할 것이라는 두려움이 커지고 있습니다. 앞으로 AI가 단순 데이터 입력이나 지원 업무와 같은 낮은 수준의 많은 직무를 대체할 가능성이 높습니다. 그러나 AI가 많은 새로운 일자리를 창출할 것으로 예상됩니다. 그다지 광범위하게 탐구되지 않은 것은 기존 직원과 신입 직원을 교육하는 데 AI를 적용하는 것입니다. 오늘날의 기업 교육 시나리오는 지난 몇 년 동안 크게 발전하지 않았으며, 교육 동영상에 기반한 진부한 객관식 문제가 자주 등장합니다. 안타깝게도 이러한 교육 세션은 여전히 실제 시나리오를 시뮬레이션하고 직원이 실제 문제에 대비할 준비가 되어 있는지 정확하게 평가할 수 있는 기능이 부족합니다.

효율적인 직원 교육이 부족해서 이런 일이 발생하는 것은 절대 원치 않을 것입니다:

직원 교육을 위한 AI 솔루션을 찾고 있다면 Cody가 이상적인 도구입니다. ChatGPT와 마찬가지로 Cody는 고유한 지식 기반을 활용하여 비즈니스 데이터, 팀 프로필, 프로세스 및 고객 정보를 사용하여 학습할 수 있습니다.

코디를 통해 기업은 AI의 강력한 기능을 활용하여 직원의 요구 사항에 맞게 맞춤화된 지능형 교육 도우미를 만들 수 있습니다. 이를 통해 코디는 AI 기반 비즈니스 솔루션 영역에서 독보적인 위치를 차지하게 되었습니다. 코디를 시작하려면 기존 비즈니스 관련 문서를 업로드하고(이미 교육 관련 자료가 있다면 더욱 효과적입니다) 템플릿 라이브러리에서 템플릿을 선택하거나 처음부터 봇을 직접 생성하기만 하면 됩니다. 다음은 코디가 직원 교육을 개선하여 단조롭고 부담스러운 교육이 아닌 보다 효과적이고 흥미진진한 교육으로 만들 수 있는 몇 가지 영역입니다.

실제 시나리오 시뮬레이션

고객 지원과 같은 직무는 교육과 관련하여 고유한 과제를 안고 있습니다. 상호작용의 인간 중심적 특성을 고려할 때 발생할 수 있는 모든 잠재적 시나리오나 고객 우려 사항을 예측하기는 어렵습니다. 기존의 교육 방식은 표준 응답을 제공하기 위해 매크로와 템플릿에 의존하는 경우가 많았습니다. 이러한 답변은 광범위한 일반적인 쿼리를 다룰 수 있지만, 고객 상호작용의 예측할 수 없는 특성으로 인해 사전 정의된 답변의 범위를 벗어나는 상황이 항상 발생할 수 있습니다.

바로 이 지점에서 AI가 게임 체인저가 될 수 있습니다. 교육생은 일상적인 시나리오와 매우 이례적인 시나리오를 함께 접할 수 있어 보다 포괄적인 교육 경험을 할 수 있습니다. 이러한 시뮬레이션을 통해 직원의 문제 해결 능력뿐만 아니라 대인관계 및 커뮤니케이션 능력도 테스트할 수 있습니다. 피드백은 즉각적으로 제공되며, 트레이너의 성과에 따라 실시간으로 트레이닝을 조정할 수 있습니다.

적응형 객관식 문제

기존의 객관식 문제(MCQ)는 교육 시나리오에 한계가 있습니다. 한 개인이 처음에 정답을 맞히지 못하면 나중에 같은 문제가 나올 수 있습니다. 몇 번의 시도와 추측을 통해 직원은 정답을 선택할 수 있습니다. 이 접근 방식은 모든 영역의 교육에 비효율적입니다.

AI를 사용하면 질문과 해당 답변을 모두 재구성할 수 있습니다. 이렇게 하면 기본 개념이 동일하게 유지되더라도 문제와 옵션이 다르게 출제됩니다. AI에 몇 가지 질문을 제공하고 같은 질문을 반복하지 않는 방식으로 개인화하여 학습 프로세스를 훨씬 더 다양하게 활용할 수 있습니다.

즉각적인 설명

가장 효과적인 학습은 질문을 통해 이루어지는 경우가 많습니다. 그러나 교육 중에 특정 전문 용어나 프로세스에 대해 질문하는 것은 항상 가능하지 않을 수 있으며, 직원들에게 지루함을 주어 전체 교육 프로세스를 방해할 수 있습니다. AI를 교육에 통합하면 학습자가 단순히 여러 질문에 답함으로써 지식이 있다는 착각을 불러일으키는 것이 아니라 핵심 개념을 파악하고 기본 사항을 명확하게 이해할 수 있습니다. 즉각적인 설명과 근거를 제시하면 인간 트레이너가 항상 직원을 도와줄 수 있다는 인상을 줍니다.

기존 플랫폼과의 원활한 통합

기존 직원 교육 시스템의 또 다른 단점은 교육을 이수하기 위해 다른 매체로 전환해야 하는 번거로움이 있다는 점입니다. 원활하지 않아 직원들이 교육 세션을 연기하게 됩니다. Cody와 같은 도구를 사용하면 교육 프로세스를 Slack 워크스페이스에 원활하게 통합할 수 있으며(곧 더 많은 통합 기능이 제공될 예정), 직원들이 컨텍스트 전환 없이도 교육을 완료할 수 있습니다.

코디와 함께 AI 도약하기

Cody를 통해 비즈니스에 AI를 원활하게 통합하세요. 코딩이 필요 없고 기술적 장애물이 없습니다. 드래그 앤 드롭, 디자인 및 배포. 코디가 발전함에 따라 교육 과정을 개선하기 위한 더 많은 기능이 추가될 예정입니다. 아무 조건 없이 무료로 코디를 테스트해 보세요. 그리고 그 효과에 확신이 들면 원하는 속도로 업그레이드하세요.

ChatGPT보다 정말 더 나은가요?

출시 후 ChatGPT를 일시적으로 금지한다고 발표했던 StackOverflow는 이제 최신 제품인 OverflowAI를 통해 GenAI의 대열에 합류하기로 결정했습니다. 오버플로AI는 단일 제품이 아니라 하나의 포괄적인 용어 아래 여러 GenAI 제품을 모아 놓은 것입니다. 오버플로우AI가 정말 프로그래머를 위한 ChatGPT를 대체할 수 있는지 살펴봅시다.

오버플로AI의 특별한 점은 무엇인가요?

검색

질문에 대한 해결책을 찾는 시간을 절약하고 개선하기 위해 OverflowAI는 다양한 출처의 지식을 취합하여 특정 문제 해결에 적합한 단계별 솔루션을 제공합니다. 답변을 생성하는 데 사용된 모든 리소스는 참조와 함께 인용되어 사용자가 직접 답변을 검증할 수 있으며, 솔루션 기여자에게 크레딧이 부여됩니다.

채팅과 같은 형식으로 후속 질문을 할 수 있습니다. 이렇게 하면 원래 질문의 맥락을 유지하면서 더 많은 정보를 추가할 수 있으므로 질문을 구성하는 데 소요되는 시간을 줄이고 서로 연결된 일련의 질문을 할 수 있습니다.

초안

“AI가 곧 인간을 대체할 수는 없지만 커뮤니티에 게시할 질문의 초안을 작성하는 데는 도움이 될 수 있습니다.” – Prashanth Chandrasekar, CEO @ StackOverflow

순전히 질문 내 정보의 구조나 중복성 부족으로 인해 대부분의 질문이 해결되지 않거나 무시되는 경우가 있었습니다. OverflowAI는 더 나은 질문의 초안을 작성하여 StackOverflow 커뮤니티에 게시하고 도메인 전문가가 답변할 수 있도록 도와줍니다.

오버플로AI가 특정 질문에 답변할 수 없는 경우에도 동일한 기능이 사용됩니다. 답변을 환각하는 대신 사용자에게 커뮤니티로 질문을 리디렉션하라는 메시지를 표시하고 잘 작성된 질문을 사용자에게 제공합니다.

요약

개발자라면 간단한 문제 하나에 대한 해결책을 찾기 위해 여러 답변과 문서를 읽고 훑어보는 것이 얼마나 힘든 일인지 잘 알고 있을 것입니다. OverflowAI는 GenAI 솔루션을 통해 여러 응답을 요약하고 중복되거나 유용성이 떨어지는 응답을 삭제하여 문제에 대한 해결책을 깔끔하고 체계적으로 요약하여 제공합니다.

이렇게 어트리뷰션되고 신뢰할 수 있는 답변은 코딩 능력, 길이 및 GitHub와 같은 기타 지식 기반에 따라 세분화할 수 있습니다. 팀용 StackOverflow를 사용하면 기업의 동료가 제공한 솔루션을 리포지토리에 대해 OverflowAI를 교육하여 참조할 수도 있습니다.

플러그인

“개발자로부터 듣는 어려움 중 하나는 코딩 중 중단과 컨텍스트 전환을 최소화하는 것입니다.” – Prashanth Chandrasekar, CEO @ StackOverflow

Visual Studio Code용 플러그인은 페어 프로그래머처럼 작동하도록 설계되어 퍼블릭 및 프라이빗 스택오버플로 팀의 검증되고 어트리뷰션된 콘텐츠를 제공함으로써 프로그래밍 효율성을 개선할 수 있습니다. 이 확장 프로그램은 비공개 Stack Overflow for Teams 인스턴스와 공용 플랫폼에서 검증된 콘텐츠를 가져와서 개발자에게 문제를 빠르고 효과적으로 해결하는 방법에 대한 개인화된 요약을 제공하므로 필요한 경우 더 깊이 파고들어 새로운 인사이트와 솔루션을 문서화할 수 있습니다.

Slack 통합

현재 대부분의 기업이 Slack을 주요 커뮤니케이션 매체로 사용하고 있기 때문에 StackOverflow용 Slack 통합을 통해 누구나 쉽게 정보에 액세스할 수 있고 채널에서 공동으로 솔루션을 찾을 수 있습니다. 모든 팀은 사람의 도움 없이도 리소스 및 지식창고와 상호 작용할 수 있습니다.

ChatGPT와 어떻게 다른가요?

현재 무수히 많은 LLM이 존재하지만, 모든 LLM이 LLM 기능을 기반으로 눈에 띄는 것은 아닙니다. ChatGPT는 일상적인 사용에서 GPT 모델의 힘을 보여주기 위해 만들어진 도구입니다. OverflowAI와 같은 도구는 특정 사용 사례(이 경우 소프트웨어 개발 및 유지 관리)에 사용하도록 특화되어 있습니다. 예, ChatGPT를 사용하여 대부분의 작업을 완료할 수 있지만, 전문 도구를 사용하면 전체 프로세스를 훨씬 더 원활하고 강력하게 만들어 작업량을 줄이는 데 도움이 됩니다.

오버플로우AI와 같은 도구를 찾고 있지만 비즈니스 문서에 대한 교육을 받고 싶다면 코디를 소개해드리겠습니다. 오버플로AI와 마찬가지로 코디는 고유한 지식 기반을 사용하여 비즈니스 데이터, 팀 프로세스 및 고객에 대해 학습할 수 있습니다.

함께
Cody
를 통해 기업은 AI의 힘을 활용하여 각자의 필요에 맞는 개인화된 지능형 어시스턴트를 만들 수 있으며, 이는 AI 기반 비즈니스 솔루션의 세계에 유망한 추가 기능으로 자리 잡을 것입니다.

아직 실험 단계이므로 OverflowAI를 사용하려면 StackOverflow Labs에 등록해야 합니다.

최신 LLM이 과대 광고할 만한 가치가 있을까요?

며칠 전 Meta는 Microsoft와 협력하여 최신 버전의 LLM인 Llama 2를 출시했습니다. LLM에 대해 관심 있게 지켜보셨다면 이미 들어보셨거나 새로운 기능에 대해 읽어보셨을 수도 있습니다. 간단하게 설명하기 위해 Llama 2가 큰 인기를 끌고 있는 네 가지 이유와 최고의 LLM과 비교하는 방법을 나열해 보겠습니다.

연구 및 상업적 용도로는 무료

사람들이 라마 2에 관심을 갖게 된 중요한 이유 중 하나는 메타가 특정 조건이 있는 일부 대기업을 제외한 거의 모든 사용자에게 전체 모델을 무료로 제공했기 때문입니다. 이러한 움직임은 자신의 사업을 시작하거나 제너레이티브 AI의 세계에 뛰어들려는 개인에게 흥미로운 기회를 열어줍니다. 특히 이 정도 수준의 언어 모델에 자유롭게 액세스할 수 있는 지금이야말로 AI의 세계로 뛰어들기에 완벽한 시기입니다. 이미 여러 오픈소스 모델이 있었지만, 메타의 위상에 걸맞은 회사에서 나온 것이 아니었고, GPT의 직접적인 경쟁자 역할을 할 수 있는 모델도 없었습니다.

“GPT-3(Brown 외., 2020) 및 Chinchilla(Hoffmann 외., 2022)와 같은 폐쇄형 사전 학습 경쟁자의 성능에 필적하는 사전 학습된 LLM(예: BLOOM(Scao 외., 2022), LLaMa-1(Touvron 외., 2023), Falcon(Penedo 외., 2023))의 공개 출시가 있었으나, 이 모델들이 ChatGPT(Brown 외., 2020) 및 친칠라(Hoffmann et al., 2022)와 같은 폐쇄형 “제품” LLM을 대체할 수 있는 모델은 없지만, 이러한 모델 중 어느 것도 ChatGPT, BARD, Claude와 같은 폐쇄형 “제품” LLM을 대체하기에 적합하지 않습니다.” – 메타 연구 논문

안전

메타 연구 논문에 발표된 보고서에 따르면, 라마 2는 유용성 및 안전성 벤치마크에서 다른 오픈소스 모델에 비해 우수한 성능을 입증했습니다. 이러한 측면에서 ChatGPT(7b, 13b, 70b 모델)를 능가하는 성능을 발휘하기도 했습니다. 그러나 연구 논문에서 라마 2에 유리한 편향된 데이터의 가능성을 인정하고 있으므로 결과를 해석할 때 이를 고려해야 한다는 점에 유의해야 합니다. 그럼에도 불구하고 라마 2가 ChatGPT 벤치마크에 근접하더라도 칭찬할 만한 가치가 있습니다.

라마 2의 안전성에 기여하는 가장 중요한 요소 중 하나는 데이터 프라이버시입니다. 일부 모델과 달리 Llama 2는 응답을 가져오기 위해 OpenAI와 같은 외부 서버로 데이터를 전송할 필요가 없습니다. 이 고유한 속성은 사용자의 데이터를 보호하고 개인 정보를 유지하는 데 도움이 되므로 중요하고 민감한 사용 사례에 특히 유용합니다. 사용자는 자신의 데이터가 인프라 내에 포함된 프라이빗 서버에서 모델을 실행할 수 있습니다.

오픈 소스

현재 가장 많이 사용되는 LLM은 블랙박스처럼 작동하며, 사용자는 그 기능에 대한 인사이트가 제한적입니다. 반면 오픈소스 모델은 투명한 접근 방식을 제공하므로 사용자가 내부 작동 방식을 이해할 수 있습니다. 이러한 투명성은 스팸이나 허위 정보 생성 등의 문제에도 불구하고 이러한 모델을 사용할 때 신뢰와 확신을 심어줍니다.

또한 이러한 모델의 오픈 소스 특성은 협업 노력을 장려하여 LLM 분야의 지속적인 개선과 발전으로 이어집니다. 그 결과 오픈 소스 모델은 언어 모델 분야의 발전을 주도하는 데 중요한 역할을 하고 있습니다.

“그리고 더 안전하다고 믿습니다. 오늘날의 AI 모델에 대한 액세스를 개방한다는 것은 여러 세대의 개발자와 연구자가 커뮤니티로서 스트레스 테스트를 통해 문제를 빠르게 식별하고 해결할 수 있다는 것을 의미합니다. 다른 사람들이 이러한 도구를 어떻게 사용하는지 확인함으로써 우리 팀도 이를 통해 배우고 도구를 개선하고 취약점을 수정할 수 있습니다.” – 메타 웹사이트

라마 2는 공개 라이선스이지만, 메타는 여전히 학습된 데이터를 공개하지 않고 있어 메타 사용자의 데이터 프라이버시 측면에서 여전히 문제가 되고 있습니다. 메타는 라마 2 연구 논문에서 “개인에 대한 대량의 개인 정보가 포함된 것으로 알려진 특정 사이트에서 데이터를 제거하기 위해 노력했다”고 밝혔지만, 해당 사이트가 어디인지에 대해서는 언급하지 않았습니다.

성능

라마 2는 네 가지 무게로 제공됩니다: 7B, 13B, 34B, 70B. 가중치는 모델이 학습하는 파라미터의 수를 나타냅니다. 일반적으로 매개변수 크기가 클수록 정확하고 안정적인 응답을 얻을 수 있지만, 더 많은 계산 리소스가 필요합니다. 모델의 인간과 유사한 특성을 개선하기 위해 라마 2는 인스트럭션 튜닝과 GPT에서도 사용하는 RLHF(인간 피드백을 통한 강화 학습) 방법을 사용하여 미세 조정을 거쳤습니다.

70B 매개변수 크기는 상당한 수준이지만, 175B 매개변수 크기인 GPT-3.5에 비하면 여전히 부족합니다. 결과적으로 라마 2의 성능은 GPT-3.5에 미치지 못할 수도 있지만, 벤치마크 테스트 결과 더 작은 파라미터 크기에도 불구하고 접전을 벌이고 있는 것으로 나타났습니다. 이러한 차이에도 불구하고 Llama 2는 현재 사용 가능한 모든 기존 오픈 소스 모델보다 성능이 뛰어납니다.

“RLHF는 세밀하게 조정된 언어 모델에 적용하는 모델 학습 절차로, 이를 통해 인간의 선호도와 지시에 따른 행동을 모델링합니다. 경험적으로 샘플링된 인간의 선호도를 나타내는 데이터를 수집하여 인간 주석가가 두 가지 모델 출력 중 선호하는 것을 선택합니다. 이후 이러한 인간의 피드백은 보상 모델을 훈련하는 데 사용되며, 보상 모델은 인간 주석자의 선호 패턴을 학습한 다음 선호도 결정을 자동화할 수 있습니다.” – 메타 연구 논문

결론

실제로 수많은 오픈소스 모델이 등장하고 있으며, Llama 2가 출시되면서 그 가능성은 무한해 보입니다. 이러한 오픈 소스 모델이 GPT-4와 같은 고급 모델과 직접적으로 경쟁하기까지는 다소 시간이 걸릴 수 있지만, GPT-3.5의 기능에 근접한 모델을 확보할 수 있다는 점에서 기대가 큽니다. 이러한 발전은 그 자체로 정말 놀라운 일입니다.

앞으로 LLM 교육이 더욱 효율적으로 진행됨에 따라 로컬 디바이스의 데이터로 미세 조정된 개인화된 ChatGPT를 사용할 수 있는 잠재력이 더욱 커질 것입니다. 이러한 기능을 제공하는 플랫폼 중 하나는 다양한 측면에서 비즈니스를 지원하기 위해 맞춤화된 지능형 AI 어시스턴트인 Cody입니다. ChatGPT와 마찬가지로 코디는 고유한 지식 기반을 사용하여 비즈니스 데이터, 팀, 프로세스 및 고객에 대한 교육을 받을 수 있습니다.

코디를 통해 기업은 AI의 힘을 활용하여 각자의 필요에 맞는 개인화된 지능형 비서를 만들 수 있으며, 이는 AI 기반 비즈니스 솔루션의 세계를 더욱 확장할 수 있는 유망한 솔루션이 될 것입니다.

여기를 클릭하여 라마 2에 대한 메타 연구 논문을 읽어보세요. 여기에서 라마 2를 사용해 보세요.