[AI]뉴욕주, AI 안전 강화 법안 통과… 실리콘 밸리 반발

jyseo@gscampus.net

2025-06-16

뉴욕주가 AI 안전을 강화하기 위해 RAISE 법안을 통과시키면서 AI 산업과 정책 입안자 간의 긴장감이 고조되고 있다.

이 법안은 OpenAI, Google, Anthropic과 같은 대형 AI 연구소가 100명 이상의 사망이나 부상, 10억 달러 이상의 피해를 초래할 가능성을 방지하기 위한 투명성 기준을 설정하는 것을 목표로 한다.

RAISE 법안의 주요 내용

항목	내용
투명성 기준	AI연구소는 최첨단 AI 모델의 안전 및 보안 보고서를 공개해야 한다
사고 보고의무	AI 모델의 이상 행동이나 악의적인 행위자의 AI 모델 도용 발생 시 보고해야 한다
벌금 부과	기준을 충족하지 못할 경우 뉴욕주 검찰총장이 최대 3천만 달러의 벌금을 부과할 수 있다
대상 기업	1억 달러 이상의 컴퓨팅 리소스를 사용하여 AI 모델을 학습시킨 기업

이 법안은 캘리포니아에서 거부된 SB 1047과 유사한 내용을 포함하지만, 스타트업과 학계 연구자들의 혁신을 저해하지 않도록 설계되었다. 뉴욕주 상원의원 앤드류 구나데스는 "AI 기술이 빠르게 발전하는 만큼, 가드레일을 설치할 시간이 줄어들고 있다"고 강조했다.

실리콘 밸리의 반발과 논란

실리콘 밸리의 주요 기업들은 이 법안이 AI 혁신을 저해할 수 있다고 강하게 반발하고 있다. Andreessen Horowitz의 제너럴 파트너 Anjney Midha는 "이 법안은 미국에 해를 끼칠 어처구니없는 주 정부 차원의 AI 법안"이라고 비판했다. 또한, AI 연구소 Anthropic의 공동 창립자 잭 클라크는 "RAISE 법안의 범위가 너무 광범위하여 소규모 기업에 위험을 초래할 수 있다"고 우려를 표했다.

이미지: perplexity 생성

RAISE 법안은 현재 뉴욕 주지사 캐시 호출의 책상으로 향하고 있으며, 그녀는 법안에 서명하여 법률로 제정하거나, 수정을 요구하거나, 거부권을 행사할 수 있다. 뉴욕이 미국에서 세 번째로 GDP가 큰 지역이라는 점을 고려하면, 대부분의 AI 기업이 뉴욕에서 철수하는 것은 쉽지 않을 것이다.

이 법안이 AI 산업에 미칠 영향은 아직 불확실하지만, AI 안전과 투명성에 대한 논의가 더욱 활발해질 것으로 예상된다. AI 기술이 빠르게 발전하는 만큼, 이에 대한 규제와 안전 기준도 지속적으로 조정될 필요가 있다.