업무용 가라오케 "DAM"의 개발·운영을 담당하는 주식회사 다이이치코쇼. 동 회사는 영업 담당자로부터 가라오케 기기에 관한 문의를 접수하는 헬프데스크 업무의 효율화를 위해 Amazon Transcribe를 통한 녹음 데이터의 텍스트 변환과 생성형 AI 서비스인 Amazon Bedrock을 통한 통화 내용 요약을 검증하여 업무 부하의 대폭적인 경감이 기대될 수 있음을 확인했습니다. 이에 클래스메소드의 기술 지원을 받아 텍스트 변환부터 요약, 결과 저장까지의 일련의 과정을 자동화하는 API를 개발하여 실무에서 활용을 시작했습니다. API 개발 프로젝트에 대해 담당자인 다카야 씨와 오시로 씨에게 이야기를 들어보았습니다.

 

 

일평균 300건의 문의 대응 기록 효율화와 평준화가 과제

 

가라오케 업계의 선도기업으로서 노래하며 즐길 수 있는 '음향'과 '영상'을 전국의 가라오케 이용자에게 제공하는 다이이치코쇼. 'DAM' 시리즈로 음성으로 조작하는 'AI 어시스턴트 기능'이나 AI가 노래 기술을 평가하는 '정밀 채점 AI'를 탑재한 'LIVE DAM AiR'과 'LIVE DAM Ai', 나이트마켓 향으로 화려한 색채를 더한 'Cyber DAM+', 고령자 시설용 'FREE DAM LIFE' 등 폭넓은 제품을 갖추고 있습니다. 2025년 4월 18일에는 DAM의 새로운 플래그십 모델 'LIVE DAM WAO!'가 라인업에 추가되어 전화 접수량 증가가 예상됩니다.

 

동 회사에서는 가라오케박스나 음식점, 바·스낵, 호텔, 고령자 시설 등에서 접수되는 가라오케 기기의 불량이나 설정 등에 관한 문의에 대응하기 위해 자사 영업 담당자 및 대리점 대상 헬프데스크를 운영하고 있습니다. 헬프데스크는 17명 체제로 오전 10시부터 오후 10시까지 전화를 접수하며, 일평균 300건의 문의에 대응하고 있습니다.

 

 

 

 

텍스트 변환부터 요약 내용을 파일 저장하기까지의 단계를 API로 자동화

 

헬프데스크의 기록 업무 효율화와 평준화를 위해 동 회사는 녹음 데이터의 텍스트 변환과 기록 내용 요약의 자동화를 검토했습니다. AWS를 활용한 검증을 2023년 11월에 약 3주간에 걸쳐 실시했습니다.

 

구체적으로는 PBX(전화교환기)로 녹음한 헬프데스크 음성 데이터를 Amazon S3에 업로드하고, Transcribe로 텍스트 변환을 한 후 Bedrock으로 통화 내용을 요약하는 흐름입니다. 요약된 내용은 헬프데스크 운영자가 수작업으로 입력한 내용과 비교하여 수정이 불필요하거나 약간의 수정으로 충분한 것을 '합격'으로 판정했습니다.

 

 

 

결과적으로 검증한 데이터 중 약 90%가 합격이 되어 업무 부하 경감이 기대될 수 있음을 알 수 있었습니다. 이에 동 회사는 업무에서의 실용화를 위해 녹음 데이터 업로드 후 텍스트 변환을 거쳐 요약한 내용을 파일 저장하기까지의 단계를 자동화하는 API 개발을 검토하여 클래스메소드에 지원을 요청했습니다. 동 회사에서는 이전부터 클래스메소드의 세미나 등에 참가하여 다른 회사의 사례를 참조하는 중에 AWS상에서 분리하기 쉬운 안건이 있으면 개발을 의뢰하고 싶다고 생각하고 있었습니다. 이번에는 AWS상에서 신규성이 높은 안건이었기 때문에 파트너로 채택했습니다.

 

"클래스메소드에는 이전부터 다이이치코쇼의 다양한 AWS 개발·운영 안건에서 지원을 받아온 실적이 있습니다. 사내에서도 'AWS라면 클래스메소드에 상담'이라는 흐름이 있었기 때문에 이번에도 부탁하기로 했습니다"(오시로 씨)

 

 

실시간에 가까운 형태의 텍스트 변환과 운영자별 처리 분기가 포인트

 

프로젝트는 사양 확인/준비, 프로토타입 개발, 검증의 3개 단계로 나누어 2024년 6월 말부터 7월 말에 걸쳐 실시했습니다. 구현 자체는 약 2주간에 마쳤으며, 그 후 QA 대응을 포함하여 1개월간의 단기 개발을 실현했습니다.

 

아키텍처는 AWS Lambda를 중심으로 한 서버리스로 구축하고, Amazon SNS로 오류 감지를 구현했습니다. Bedrock의 대규모 언어 모델은 검증 시의 Claude 2에서 최신 Claude 3.5 Sonnet으로 전환하여 정확도를 대폭 향상시켰습니다.

 

이번 API 개발에서 동 회사가 중시한 것은 실시간에 가까운 형태로 음성을 처리하여 적은 지연으로 텍스트 변환과 요약을 마치는 것과 베테랑 운영자와 신입 운영자의 처리를 분기하는 것 2가지였습니다.

 

"운영자가 전화를 받은 후 가능한 한 빨리 요약 결과를 내고 싶다고 클래스메소드에 상담하여 통화 종료부터 5분 이내에 모든 과정이 완결될 수 있도록 했습니다. 신입 운영자와 베테랑 운영자의 요약 구분은 전화 접수 시 내선번호로 판단하여, 신입용 내선번호로 녹음한 음성의 요약은 나중에 다시 봐도 대응 내용을 자세히 알 수 있도록, 베테랑용 전화번호로 녹음한 음성의 요약은 개요 정도를 파악할 수 있도록 2가지 패턴으로 했습니다. 기본적으로는 헬프데스크 담당자의 의견을 듣고, 어떤 사양이 최선인지를 클래스메소드와 의견을 교환하며 개발을 진행했습니다"(오시로 씨)

 

1개월간에 걸친 클래스메소드와의 프로젝트에 대해 오시로 씨는 "신속한 대응에 도움이 되었다"고 소감을 밝혔습니다.

 

"저 자신 AWS를 통한 개발은 초보자여서 클래스메소드 담당자에게 여러 가지 질문할 일이 있었습니다. 그 중에서도 신속하고 이해하기 쉬운 답변을 받아 헬프데스크 업무에 지장을 주지 않고 개발을 마칠 수 있었습니다. 개인적으로는 API 개발 기간 중 헬프데스크 담당자에게 개발이나 운영 건으로 인터뷰할 기회가 많았습니다. 결과적으로 업무에 대해 깊이 알게 되어 운영자분들이 힘든 일에 종사하고 있음을 실감할 수 있었습니다"(오시로 씨)

 

 

녹음 데이터의 약 90%를 '합격 수준'으로 요약하여 운영자의 업무 부하 경감

 

API 개발을 마친 현재, 텍스트 변환과 요약의 자동화 기능은 운영자들 사이에서 점차 확산되기 시작하고 있습니다. 요약 내용의 합격률은 검증 시와 같은 약 90%로 횡보하고 있지만, 업무 부하 경감에서는 기대 이상의 효과가 나타나고 있습니다.

 

"문의 전화는 기기가 설치되어 있는 가라오케박스나 영업 중인 음식점 현장에서 걸려오는 경우가 많아 전화 음질 자체도 좋지 않습니다. 기기의 모델명 등 전문용어도 많은 것도 있어 텍스트 변환 자체의 정확도에 한계가 있습니다. 그 중에서 90%의 합격률은 매우 우수합니다. 나중에 요약 내용의 수정이 필요하다고 해도 담당자가 처음부터 음성 데이터를 듣고 기록하던 이전과 비교하면 훨씬 효율적이어서 도움이 됩니다"(다카야 씨)

 

특히 동 회사의 경우 베테랑 운영자는 스스로 전화에 대응하면서 신입 운영자의 로그를 체크하고 있어 베테랑이 담당한 문의 내용 기록은 후순위가 되는 경향이 있습니다. 자동으로 요약이 되면 베테랑의 부담을 경감할 수 있기 때문에 바쁠 때일수록 그 혜택이 크다고 합니다. 한편 신입 운영자도 미숙함으로 인해 대응 시간이 길어지는 경향이 있지만, 텍스트 변환된 텍스트를 확인함으로써 자신의 대응을 나중에 확인할 수 있습니다.

 

"지금까지 베테랑 SV가 신입 운영자의 녹음 내용을 듣던 것이 현재는 텍스트를 확인하는 것만으로 충분해서 베테랑 담당자의 시간 단축이 되고 있습니다. 신입 운영자에게도 자신의 대응을 되돌아봄으로써 일인분이 되기까지의 기간을 단축할 수 있지 않을까 기대하고 있습니다"(다카야 씨)

 

 

실시간 텍스트 변환을 통한 업무의 더욱 효율화로

 

향후에는 텍스트 변환과 요약 기능을 더 많은 운영자가 사용할 수 있도록 하는 것을 목표로 하고 있습니다. 요약까지의 리드타임 단축도 지속적인 과제로, 대응이 끝난 후 음성 파일을 Amazon S3에 업로드하고 있는 현재 상황을 전화를 받는 순간부터 라이브로 텍스트 변환을 시작하여 텍스트를 표시하는 실시간화를 위해 클래스메소드에 대응책을 상담하고 있는 중입니다. 그 외에도 운영자와 영업 담당자의 음성을 구별하는 화자 분리, FAQ 시스템과의 통합 등을 통해 업무 효율화를 도모할 예정입니다.

 

 

"실시간으로 텍스트 변환을 하여 요약한 내용이 자동으로 CRM에 입력될 수 있는 것이 최종적인 이상이며, 그를 통해 더욱 대폭적인 부하 경감이 가능하다고 생각합니다"(다카야 씨)

 

콜센터 업무 외에도 사내 전체의 회의 의사록 자동 작성, 다른 부문의 가라오케 자막 작성, 악곡 정보 자동 수집 등에 AI나 생성형 AI를 활용하여 관련 부문의 부담 경감에 기여해 나갈 것을 구상하고 있습니다.

 

"이번 프로젝트를 계기로 사내 많은 사람들에게 AI나 생성형 AI의 가능성을 알려드리고, 업무에 적극적으로 도입해 주셨으면 합니다. 클래스메소드에는 앞으로도 AI 전반에 걸친 지원을 기대하고 있습니다"(오시로 씨)