프로토콜은 미비하며, 생성형 AI의 조언에 대해 책임을 명확히 > 온라인 상담

• 목록
• 답변
• 글쓰기
• 게시판 리스트 옵션
  • 수정
  • 삭제

고양음주운전변호사 미국에선 개별 주 단위로 사람과 상호 작용하는 AI 규제법을 두고 있다. 일리노이주는 지난해 8월 '심리적 자원에 관한 복지와 감독법'을 제정해, 면허를 소지한 전문가는 정신과 의사나 전문상담사의 직접적인 참여가 없는 경우 AI 기반 심리치료 서비스를 제공·광고하거나 제안하는 행위를 제한한다. 캘리포니아주는 지난해 10월 '캘리포니아 비즈니스 및 직업법'에 동반자 챗봇(companion chatbot) 규제를 추가했다. 이를 통해 동반자 챗봇 운영자에게 자살 충동, 자살 또는 자해와 관련된 콘텐츠의 생성과 확산을 방지하기 위한 프로토콜 적용을 의무화했다. 미성년자에게는 AI와 상호작용하고 있음을 명확히 고지하고 최소 3시간마다 알림을 통해 휴식을 권고해야 한다. 한국도 인공지능법 등을 통해 생성형 AI와 인간의 관계 설정 및 관리에 대한 제도적 기반을 마련해야 한다는 지적이 나온다. 입법조사처는 생성형 AI 사업자가 대화 형태의 서비스를 제공하는 경우 대화 상대방이 생성형 AI라는 것이 쉽게 인식되도록 해야 하며, 정신적 영향을 초래할 수 있는 대화에 대해선 명확한 기준을 마련할 필요가 있다고 권고했다. 특히 자살 충동이나 자해 관련 질문이 제기될 경우, 시스템적으로 즉각 대입하는 표준화된 대응 프로토콜을 갖춰야 한다고 했다..