AI 합성 음성·이미지는 인공지능 기술을 활용하여 실제로 존재하지 않는 음성과 시각적 콘텐츠를 생성하는 기술을 의미한다. 딥러닝 모델의 발전으로 인해 인간이 구분하기 어려운 수준의 고품질 합성 콘텐츠 제작이 가능해졌으며, 엔터테인먼트, 교육, 의료 등 다양한 분야에서 활용되고 있다.
AI 합성 음성은 텍스트를 자연스러운 음성으로 변환하는 음성 합성 기술과 특정 인물의 음성 특성을 학습하여 그 목소리를 재현하는 음성 클로닝 기술로 구분된다. 음성 합성 기술은 음성 보조 서비스, 멀티미디어 콘텐츠 제작, 자동 응답 시스템 등에 활용되며, 음성 클로닝은 보존 및 복원, 맞춤형 나레이션 제작 등의 용도로 사용된다. 최근에는 감정 표현, 방언 재현, 톤 조절 등 음성의 자연스러움을 높이는 기술이 지속적으로 개발되고 있다.
AI 합성 이미지 기술은 이미지 생성, 초상화 합성, 사실적 이미지 재구성 등을 포함한다. 생성형 AI 모델을 활용하여 텍스트 설명으로부터 새로운 이미지를 만들거나, 기존 사진을 기반으로 새로운 버전을 생성할 수 있다. 딥페이크 기술은 얼굴 인식과 영상 합성 기술을 결합하여 영상 내 인물의 표정이나 입 모양을 자유롭게 조작할 수 있다. 이러한 기술들은 영화 특수효과, 게임 개발, 광고 제작, 의료 영상 분석 등 다양한 산업에서 창의적 표현을 확장시키고 있다.
AI 합성 음성·이미지 기술의 긍정적 측면으로는 콘텐츠 제작 비용 절감, 창작 활동의 민주화, 접근성 향상 등이 있다. 시각장애인을 위한 음성 설명, 청각장애인을 위한 자막 생성 등 장애 접근성 개선에 기여하며, 저비용으로 고품질 콘텐츠 제작이 가능해진다. 한편 허위 정보 확산, 개인정보 악용, 사기 및 사칭 범죄 증가 등의 부작용이 우려되고 있다. 특히 개인의 동의 없이 얼굴이나 음성을 합성하는 행위는 초상권 침해와 명예훼손으로 이어질 수 있다.
이에 따라 각국은 AI 합성 콘텐츠 규제 방안을 논의하고 있다. 투명성 강화, 인공지능 합성 표시 의무화, 동의 원칙 수립 등이 검토 중이며, 기술 개발자의