디지털 전환
숨길 것이 없는 기술
We Do Soft•
2024년에 비즈니스에서 AI 투명성이 요구되는 이유
출근길에 얼마나 많은 라벨을 접하시나요? 상점에서 구입하는 모든 식품에는 영양성분표가 표시되어 있습니다. 귀하가 탑승하는 열차에는 지불 증명서가 필요하다는 표시가 포함될 수 있습니다. 당신이 타는 엘리베이터는 얼마나 많은 사람을 안전하게 태울 수 있는지 알려줍니다. 그러나 일단 작업을 시작하면 모든 경험은 시작하기 전에 생각하게 만드는 것은 물론이고 규칙을 상기시키는 마찰도 피하도록 설계되었습니다. 컴퓨터에서는 키보드 위에 커피를 부어서는 안 된다는 메시지가 깜박이지 않습니다. 천장의 동작 감지 조명은 알림 없이 간단히 켜지고 꺼집니다. 스탠딩 책상이 있다면 최적의 건강을 위해 언제 높이거나 낮춰야 할지 판단할 수 있을 것입니다. 그러나 오늘날 기업에는 생성 AI 기반 봇과 기타 AI 애플리케이션을 사용할 때 직원이나 고객에게 공개 내용이 표시되는 방식을 결정하는 새로운 과제가 있습니다. 나는 이 시대에 성공하는 사람들이 인간 에이전트가 아닌 봇과 상호 작용하고 있음을 즉시 명확하게(그리고 안전하게 잊어버릴 수 있는) 방법을 찾을 것이라고 믿습니다. 지평선에 대한 압력
제가 근무하는 Freshworks의 제품을 사용하면 봇이 표시되는 방식을 맞춤 설정할 수 있습니다. 내년에는 어떤 고객이 이 작업을 적극적으로 수행하기로 결정하고 심지어 자신이 그렇게 하고 있는지 광고까지 하게 되므로 정말 흥미로울 것입니다. 현재 우리는 영어가 새로운 프로그래밍 언어이고, 대화가 새로운 UI이며, 누구도 문제 해결에 더 많은 시간을 투자하기를 원하지 않는다는 것을 알고 있습니다. 또한 우리는 Gen AI가 봇이 질문에 대답할 뿐만 아니라 작업을 완료하도록 지원하므로 기업이 이 기술을 개인화할 수 있는 기회가 그 어느 때보다 커졌다는 사실을 확인하고 있습니다. 확실히, 지평선에 압력이 가해지고 있습니다. 규제 당국은 기업이 AI가 작동 중일 때 이를 공개하도록 강제하는 방법을 알아내기 위해 많은 회색 세포를 활용하고 있습니다. 예를 들어, EU는 AI법 에서 상당한 진전을 이루었습니다 . 법으로 제정되면 최대 규모의 범용 AI 시스템 제조업체에 대한 새로운 투명성 요구 사항이 포함됩니다. 이들 기관은 필연적으로 영향을 미치고자 하는 시스템보다 느리게 움직이고 있지만 행정 명령이 대서양 한쪽 또는 다른 쪽에서 입법을 향해 움직이는 것을 결코 보지 못할 것이라고 가정하는 것은 어리석은 것입니다. 기업을 위한 질문은 다음과 같습니다. 지금 고객과 직원을 위해 자신의 방식에 따라 AI 투명성을 수용할 준비가 되어 있습니까, 아니면 이를 수행하는 방법을 알려줄 때까지 기다릴 계획입니까? 실제로, 문제의 기술이 제3자 쿠키와 달리 고객에게 이미 눈에 띄게 표시되어 있는데 왜 이를 미루겠습니까? 기다리는 게임을 하지 마세요
지난 몇 년간 제가 관찰한 바에 따르면, 규제 기관이 비즈니스의 중요한 부분을 지시할 때까지 기다릴 때 경험이 원활하지 않을 것 같습니다. GDPR 덕분에 쿠키 기본 설정을 변경하기 위해 하루에 몇 번이나 제안을 클릭하는지 생각해 보세요. 사용자의 관심을 극대화하기 위해 세심하게 디자인된 페이지에 이러한 경고 팝업이 표시되는 짜증나는 경험은 말할 것도 없습니다. 지금 AI 투명성을 수용할 준비가 되셨나요, 아니면 수행 방법을 알려줄 때까지 기다릴 계획이신가요? 근본적인 동기를 지지하더라도 이러한 통지는 짜증나고 말 그대로 비즈니스 속도를 저하시킵니다. 규제 당국의 마음을 안정시킬 투명성 모드를 아무도 개척하지 않았기 때문에 우리는 지금 이러한 상황을 참아내야 합니다. 회사는 이름 지정과 봇이 자신을 알리는 방식 모두에 창의성의 일부만 적용하여 다른 길을 택할 수 있습니다. 충분한 수의 조직이 이를 이행한다면 2024년은 1965년에서 1979년 사이에 태어난 X세대가 고객 및 IT 지원과 상호 작용하는 선호하는 방법으로 봇을 널리 채택하는 해가 될 것으로 예측합니다.