Skip to content

업무안내

뉴욕시, AI 채용 도구 감사법 본격 시행

Author
admin
Date
2024-01-13 13:49
Views
120
 






AI 평가시스템의 편향성 감사 의무화



(사진=셔터스톡)(사진=셔터스톡)

인공지능(AI)으로 직원을 자동평가하는 프로그램에 대해 편향성을 정기적으로 감사하도록 의무화한 법률이 미국 뉴욕시에서 처음으로 시행된다.

블룸버그통신은 미국 뉴욕시가 5일(현지시간) 지방법인 ‘자동 고용 결정 도구(AEDT) 법’의 본격 시행에 착수했다고 보도했다.

여기서 AEDT는 직원의 채용과 계속 고용, 승진 등을 위해 평가에 사용하는 AI 프로그램을 말한다.

이 법은 지난해 뉴욕시 의회가 제정했고 올해 1월부터 발효했다. 그러나 뉴욕시는 AI 감사와 관련한 구체적인 지침이 없어 시행을 미뤘다가 질의 응답(Q&A) 방식으로 세부 규제 방안을 마련한 뒤 이날부터 적용하기 시작했다.

이에 따르면 뉴욕시의 기업들은 인사 및 채용을 위한 AI 도구에 대해 독립적인 감사관으로부터 해마다 편향성 감사를 받아야 한다. 감사를 받지 않은 도구 사용은 금지된다.

또 도구에 대한 독립적 감사 결과는 공개해야 한다. 공개 보고서에는 사용중인 알고리즘에 대한 정보를 비롯해 다양한 인종과 민족 및 성별에 따른 ‘평균 점수’가 포함된다.

이 법규 위반에 따른 처벌은 1회 위반 시 375달러(약 49만원), 2회 위반 1350달러(약 176만원), 3회 이상 위반은 1500달러(약 196만원)의 벌금 부과다.

이 법은 뉴욕시에 거주하지 않더라도 지역 기업에 고용되는 근로자에게 모두 적용된다. 뉴욕시와 의회는 지난 2020년 채용이나 인사에 대한 AI의 '편향 위험'에 관한 문제 제기를 공식적으로 받아들이고 인사 및 채용 AI 시스템에 대해 감사 활동을 의무화하는 ‘AEDT법’을 제정했다.

블룸버그통신에 따르면 뉴저지주 의회도 뉴욕시와 같이 고용주가 편견 감사를 받은 경우에만 AI 도구를 이용할 수 있도록 하는 방안을 고려하고 있다. 또 메릴랜드와 일리노이는 지원자의 동의 없이 면접에서 안면 인식 및 비디오 분석 도구를 사용하는 것을 금지하는 법안을 발의했다.

캘리포니아 공정 고용 및 주택 위원회는 인종, 성별, 민족 등의 특성을 기반으로 지원자를 선별할 수 있는 AI 도구 및 테스트를 금지하는 새로운 명령을 검토하고 있다.

정병일 기자 jbi@aitimes.com