AI Literacy - AI와 함께 사는 시대 (윤리저작권)

1. 오늘 학습 키워드

- Hallucination (환각)

- 개인정보 침해와 Red Flag (위험징후)

- 저작권과 출처 표기

---

2. 오늘 학습 한 내용을 나만의 언어로 정리하기

 

<AI 관련 대표적인 위험 요소>

- 환각

- 저작권

- 개인정보

 

 

<Hallucination> = 환각

- AI가 실제로 존재하지 않거나 잘못된 정보를 생성하는 현상

- AI  윤리에서 대표적인 위험 요소 중 하나

 

환각 발생 원인
- AI가 실제로 존재하지 않거나 잘못된 정보를 생성하는 현상
- AI가 학습한 내용의 한계와 확률 기반 예측 방식 때문에 발생함
- 단순한 오류가 아닌 AI의 구조적 특성으로 인해 발생함
- 어떤 AI도 환각을 완전히 제거할 수 없음
- 온도값 조정, 제한 조건 설정, 추가 학습 등을 통해 발생 가능성을 줄일 수 있음

 

환각의 위험성
- 잘못된 정보가 사실처럼 전달될 수 있음
- 사용자가 AI의 답변을 신뢰할 경우 잘못된 의사결정을 내릴 수 있음

 

환각 대응 방법
- AI가 생성한 답변을 반드시 검증해야 함
- 중요한 정보는 추가 자료나 출처를 통해 확인해야 함
- AI는 업무를 보조하는 도구이며 최종 판단은 사람이 해야 함
- 정확한 결과를 위해 검토 및 후처리 과정이 필요함

 

 

<개인정보침해와 Red Flag (위험징후)>

개인정보침해
- 특정 개인의 정보를 무단으로 수집, 사용, 유출 등 개인정보 활용 목적을 벗어난 모든 활동을 포함함

Red Flag (위험 징후)
- 문제가 발생할 가능성이 있는 위험 신호
- 개인정보침해뿐만 아니라 다양한 보안 분야에서 사용되는 개념
- 위험 요소를 사전에 식별하고 대응하기 위해 활용됨
- 반대 개념은 Green Flag

 

AI로 인한 개인정보침해 사례
- AI가 특정 인물의 개인정보를 무단으로 수집하거나 활용하는 경우
- 실제 정보와 허위 정보를 결합하여 잘못된 정보를 생성하는 경우
- 특정 인물의 사진, 음성, 신상정보 등을 악용하는 경우
- AI를 이용해 허위 기사, 이미지, 영상 등을 제작하는 경우
- 개인정보 유출, 명예훼손, 가짜뉴스 등의 문제를 발생시킬 수 있음

 

개인정보침해 대응 방법
- 민감한 개인정보는 AI에 입력하지 않기
- 개인정보는 익명화 또는 가명화 처리 후 활용하기
- 위험 징후가 있는 정보는 검열 및 검토하기
- 개인정보 활용 시 당사자의 동의와 허락 받기
- 수집 목적에 맞는 범위 내에서만 사용하기
- 의료, 금융, 행정, 국방, 미성년자 정보는 더욱 신중하게 다루기
→ 데이터 3법 : 개인정보보호법, 정보통신망법, 신용정보법

 

 

<저작권과 출처 표기>

저작물
- 저작권법에 의해 독창성과 저작권을 인정받을 수 있도록 보호를 받는 특정 생성물
- 반드시 창작자의 사상이나 감정이 표현된 결과물이어야 함
- 독창성이 부족하면 저작물로 인정받기 어려움

저작권법
- 저작권자의 권리를 보호하기 위한 법률
- 저작물의 무단 복제, 배포, 사용 등을 방지함

 

저작권 침해
- 원 저작권자의 동의 없이 저작물을 사용하거나 수정하는 행위
- 원 저작권자의 허락 없이 2차 창작물을 생성하는 행위
- 타인의 저작물을 자신의 창작물인 것처럼 사용하는 행위
- 저작물을 무단 복제, 배포, 활용하는 행위

 

- 예시

• 기업 로고를 허가 없이 사용하는 경우
• 다른 사람이 작성한 코드나 문서를 자신의 것이라고 주장하는 경우
• 원작자의 허락 없이 저작물을 수정하여 사용하는 경우

저작권 침해 대응 방법
- 저작물을 사용할 때는 출처를 명확하게 표기하기
- 인용이 어려운 경우 저작권자의 허락을 받기
- 출처가 불분명한 자료는 사용하지 않기
- 자료의 공개 범위(대외용, 사내용)를 확인하기
- 저작권 침해 가능성이 있는지 사전에 검토하기
- Red Flag(위험 요소)가 보인다면 활용 전 검토하기

---

[당일 과제]

"AI로 인한 저작권 침해 문제 사례를 찾고 AI저작권법에 대한 생각과 해결방안을 토대로 개정안 작성하기"

 

대형 출판사들 메타에 소송···“AI 무단 학습에 저작권 침해” - 경향신문

 

핵심 내용
- 출판사들은 메타가 교과서, 논문, 소설 등 수백만 건의 저작물을 무단 복제해 LLM인 라마(Llama) 학습에 사용했다고 주장

- 메타는 AI 학습을 위한 저작물 활용이 '공정 이용(Fair Use)'에 해당할 수 있다고 반박

- AI 학습 데이터에 저작권 자료를 사용하는 것이 합법인지에 대한 글로벌 분쟁의 연장선이며, 아직 명확한 법적 기준은 확립되지 않은 상태

 

AI 저작권법 개정안

- AI 학습과 저작권 보호에 대한 법적 기준을 명확히 수립하기

- 저작권자의 동의를 받은 자료를 우선적으로 활용하기

- AI가 생성한 결과물에 대한 출처 표시 기준을 마련하기

- 저작권자에게 적절한 보상 체계를 마련하기

- AI 학습에 사용되는 데이터의 출처를 투명하게 공개하기

 

AI 저작권법에 대한 생각

 생성형 AI의 발전으로 저작권 문제가 점점 중요해지고 있다는 점을 알게 되었다. 특히 AI가 학습 과정에서 저작권이 있는 자료를 활용하는 것이 적절한지에 대한 논란이 계속되고 있다는 점이 인상적이었다.
 개인적으로는 AI 기술 발전도 중요하지만 저작권자의 권리 역시 보호되어야 한다고 생각한다. 이를 위해 AI 학습 데이터의 출처를 공개하고, 저작권자가 자신의 저작물 활용 여부를 선택할 수 있는 제도가 필요하다고 생각한다. 또한 AI 학습에 사용된 저작물에 대한 적절한 보상 체계도 마련되어야 한다고 느꼈다.

---

3. 학습하며 겪었던 문제점 & 에러

1) 

 한정된 자료만 존재하는 경우 정보의 정확성을 어떻게 검증해야 하는지 궁금했다.

 이를 해결하기 위해 추가 학습을 진행한 결과, 여러 출처를 비교하거나 공식 기관의 자료를 함께 확인하는 과정이 중요하다는 점을 알게 되었다.

2)

 Red Flag(위험 징후)를 실제로 어떻게 식별하는지 궁금했다.

 이를 해결하기 위해 관련 사례를 찾아본 결과, 출처가 불분명한 정보나 개인정보를 과도하게 요구하는 경우 등을 위험 징후로 판단할 수 있다는 점을 알게 되었다.

3)

 저작물을 허가 없이 사용했음에도 발견되지 않는 경우는 어떻게 추적하는지 궁금했다.

 이를 해결하기 위해 추가 학습을 진행한 결과, 이미지 유사도 검색, 디지털 워터마크, 저작권 신고 시스템 등을 통해 저작권 침해 여부를 추적할 수 있다는 점을 알게 되었다.