스프레드시트와 대화
Freshworks와 Microsoft 리더들이 업무 공간 AI의 차세대 기능을 탐구합니다.
Generative AI는 특히 서비스 운영에서 비즈니스 앱을 더욱 강력하고 사용하기 쉽게 만드는 새로운 부조종사 도구 덕분에 직장에서 그 유용성을 확장하고 있습니다.
IT 리더에게 이는 생산성을 높이는 AI를 지원 상담원이나 직원에게 더 빠르고 쉽게 제공하는 것을 의미합니다. Freshworks의 창립자이자 CEO인 Girish Mathrubootham과 Microsoft의 Azure AI 제품 부사장인 Marco Casalaina가 최근 웹 세미나에서 토론과 데모를 주도한 방법을 보여주었습니다 .
대화의 주요 내용은 다음과 같습니다.
DIY 부조종사
Casalaina는 "ChatGPT 및 대규모 언어 모델의 과제 중 하나는 지식에 대한 시간이 제한되어 있다는 것입니다."라고 말했습니다. 예를 들어 Casalaina가 ChatGPT에 자신의 새 자동차인 Hyundai Ioniq 6의 난방 시스템에 대해 문의했을 때 해당 자동차 모델이 존재하는지 몰랐습니다. 최근 데이터가 부족하다는 점 외에도 LLM의 환각 문제 (잘못되거나 조작된 답변)는 이미 잘 문서화되어 있습니다.
가장 인기 있는 새로운 프로그래밍 언어는 영어입니다.
그러나 Casalaina는 간단한 영어 명령을 사용하여 누구나 GPT-4(또는 모든 LLM) 위에 자신의 부조종사를 구축할 수 있음을 보여주었습니다. 이를 통해 현대 아이오닉 6에 대한 전문가 정보를 제공할 수 있습니다. 그들은 단순히 자동차의 사용자 정보를 업로드하기만 하면 됩니다. 매뉴얼을 부조종사에 추가하여 최신 정보와 답변을 표시할 수 있습니다.
Casalaina는 "가장 인기 있는 새로운 프로그래밍 언어는 영어입니다."라고 말했습니다.
Casalaina가 시연한 것은 검색 증강 생성 (RAG) 이라는 AI 기술로 , LLM을 추가 데이터 소스와 결합하여 LLM의 정확성과 신뢰성을 향상시킵니다. 이러한 발전은 기업이 자체 사용 사례를 구축할 때 환각을 피하고 중요하거나 독점 데이터를 보호하여 소프트웨어 투자 가치를 최적화하는 데 도움이 될 수 있습니다.
사진과 음성으로 Gen AI 활용
많은 전문가들이 마케팅 이메일 작성이나 문서 요약과 같은 기본 작업을 위해 Gen AI 텍스트 프롬프트를 수정했습니다. 그러나 LLM과 의사소통하는 보다 직관적인 모드가 등장하고 있습니다.
Casalaina가 설명했듯이 사용자는 제품 사진을 업로드하여 제품의 작동 방식이나 사용 방법을 알아보거나 상담원과 지원 티켓의 스크린샷을 공유하여 문제를 해결할 수 있습니다. Gen AI 기반 부조종사는 백그라운드에서 작업하여 다양한 소스에서 필요한 정보를 수집합니다. Mathrubootham은 “이미지와 음성을 사용하여 모든 사람이 문제가 무엇인지 이해하고 답변을 얻을 수 있도록 돕는 것만으로도 판도가 바뀔 것입니다.”라고 말했습니다.
스프레드시트의 주인이 되어보세요
Casalaina는 GAI의 또 다른 약속인 자율성을 강조했습니다. 이를 통해 LLM은 사용자에게 요구되는 메시지가 거의 없이 복잡한 쿼리에 응답하거나 Python 코드를 작성 및 실행할 수도 있습니다.
Casalaina는 개인 프로젝트에서 샘플 스프레드시트를 꺼내어 자율성이 사고 연쇄 추론을 사용하여 복잡한 쿼리를 처리하는 방법을 보여주었습니다. 그는 ChatGPT에 자신이 몇 년 전 샌프란시스코 레스토랑 75개와 관련된 자선 행사에서 티켓 구매자 상위 10명을 보여주고 다양한 속성에 따라 정렬하도록 요청했습니다.
Casalaina는 피벗 테이블을 사용하여 그러한 분석을 수행하는 데 몇 시간을 공들여 소비했던 방법을 회상하면서 간단히 스프레드시트에 말을 걸고 몇 초 만에 답변을 얻었습니다.
Casalaina는 “신속한 엔지니어링과 같은 것에 대해 생각할 때 이러한 유형의 사고 연쇄 추론이 적용되면서 매우 빠르게 변화할 것입니다.”라고 말했습니다. “오늘 시도해 볼 수 있는 일이에요.”
방금 읽은 내용이 궁금하신가요? 여기에서 전체 웹 세미나를 시청하세요.