책소개

이 책은 2024년의 기술영향평가에 참여한 전문가들의 의견을 중심으로 앞으로 등장할 것으로 예상되는 휴머노이드, 브레인, 헬스케어 AI 기술과 관련된 안전ㆍ신뢰 이슈들에 대한 논의를 담고 있다. 먼저, 휴머노이드 AI의 경우 그 개념과 동향 소개와 함께 이와 관련된 위험, 안전, 프라이버시, 윤리적 문제에 대해 살펴본다. 브레인 AI의 경우, 뇌신호 해석과정에서 나타날 수 있는 정확성과 기억 왜곡의 문제, 접근성, 사회적 격차의 확대, 기술 의존성에 대한 문제에 대해 살펴본다. 헬스케어 AI에서는 데이터 안전과 신뢰, 책임 소재, 상업적 활용, 개인정보 유출, 데이터 편향과 기술 의존성에 대한 문제를 다룬다.

저자소개

목차

"제1장 휴머노이드 AI, 믿고 활용할 수 있을까?
1. 휴머노이드 로봇에 대한 기대 … ………………………………………………………………… 20
스스로 판단하여 작업하는 기계, 휴머노이드 ● 20
로봇, AI로 인간과 자연스럽게 상호 작용할 수 있다 ● 21
실용과 위험, 검증이 필요한 휴머노이드 AI ● 25
2. ‘안전한 휴머노이드 AI’는 모순된 단어일까? ………………………………………………… 27
의도하지 않은 결과 불러오는 잘못된 학습 ● 27
로봇-인간, 안전한 공존이 가능할까? ● 29
휴머노이드 AI에 안전 장치가 필요하다 ● 32
참고 자료 ● 37
3. “우리에게는 원활한 소통이 필요하다” … …………………………………………………… 38
사람과 로봇, 로봇과 로봇의 소통 ● 38
많은 사람을 위기에 몰아넣는 ‘잘못된 결정’ ● 40
이종 AGI 휴머노이드 간 협업의 위험성 ● 43
휴머노이드의 상호운용성 보장이 해결책 ● 45
4. 센싱 과정이 인간 프라이버시 침해한다 … …………………………………………………… 48
가까이하기 두려운 휴머노이드 로봇 ● 48
로봇청소기도 데이터를 수집한다 ● 49
동전 양면 같은 센싱과 개인 정보 문제 ● 51
촘촘한 규제보다 명확한 방향 제시 필요 ● 53
5. 인간-휴머노이드, 윤리적 도전에 부딪히다 … ……………………………………………… 56
감정적 상호 작용으로 더 복잡해진 휴머노이드 AI ● 56
휴머노이드 AI 대중화가 눈 앞에 다가왔다 ● 57
인간의 인지 능력과 감정적 이해 갖춘 휴머노이드 AI에 대한 고민 ● 59
인간 삶에 들어온 휴머노이드 AI, 어떻게 대할 것인가 ● 66
참고 자료 ● 69
제2장 기적과 두려움 사이에 선 브레인 AI
1. 브레인 AI 기술, 어디까지 진행되었나? ……………………………………………………… 72
브레인 AI는 장애 극복을 위한 복음 ● 72
브레인 AI 덕분에 걷고 움직인다 ● 76
뜨겁게 달궈진 브레인 AI 산업 ● 79
2. 사이버 위험에 취약한 AI 뇌 신호 디코딩 …………………………………………………… 81
뇌 신호 디코딩, 믿을 만한가? ● 81
군사 목적으로도 활용되는 BCI 기술 ● 83
‘안전 AI 알고리즘’ 탑재 강제할 수 있어야 ● 88
3. AI가 똑똑해지면 위험도 커진다? ……………………………………………………………… 92
인간 사회로 스며드는 브레인 AI 기술 ● 92
상상 이상으로 똑똑해지는 브레인 AI ● 93
인간을 이롭게 하는 브레인 AI ● 96
불평등과 불공정 극복 위한 준비 ● 100
4. 윤리적 고려가 필요한 양방향 BCI 기술 활용 ……………………………………………… 102
BCI 기술의 진화, 양방향 BCI 기술 ● 102
양방향 BCI 기술로 무슨 일이 가능한가? ● 104
뇌를 변화시키는 양방향 BCI 기술 ● 106
뇌 자극 중독에 유의해야 한다 ● 110
양방향 BCI 기술 올바른 활용 노하우 ● 111
임상 시험 시 고려 사항 제안 ● 113
제3장 헬스케어 AI, 건강과 안전 두 마리 토끼 잡기
1. 빅데이터 모델 생성 과정에 생기는 문제 ……………………………………………………… 118
빅데이터 없으면 헬스케어 AI도 없다 ● 118
헬스케어 AI 솔루션, 믿을 수 있을까? ● 119
쉽지 않은 데이터 수집과 활용 ● 120
활용 절차 간소화라는 해법 ● 122
2. 의료 AI 의사 결정, 누구 책임인가? …………………………………………………………… 127
생성형 AI에도 오류가 생길 수 있다 ● 127
의료 AI, 어떤 오류를 저지르는가? ● 128
자율 자동차 법제화 과정 참고 필요 ● 131
3. 헬스케어 AI 사용, 그 희망과 불안 ……………………………………………………………… 133
믿을 수 없는 의료 AI는 사용할 수 없다 ● 133
의료 데이터에서 나타나는 오류들 ● 134
헬스케어 AI 데이터 신뢰성에 영향을 미치는 문제점 ● 138
믿을 수 있는 데이터 구축을 위해 종합적·단계적 접근 필요 ● 141
참고 자료 ● 143
4. 헬스케어 AI가 만드는 불평등 현상 …………………………………………………………… 144
건강 불평등은 가장 빨리 해결해야 할 문제 ● 144
건강 격차와 형평성 지금도 심각하다 ● 148
AI가 불러올 건강 형평성 문제들 ● 151
건강 형평성 고려한 AI 기술 설계 필요 ● 154
5. 건강 데이터가 상업적으로 활용될 때 생기는 위험 ………………………………………… 158
다양한 문제 우려되는 상업적 활용 ● 158
개인 건강 정보 이미 공유되고 있다 ● 159
투명한 데이터 수집으로 신뢰 형성 ● 164
신뢰 구축을 위한 발걸음 ● 165
6. AI 서비스 때 생기는 개인 정보 유출과 침해 ………………………………………………… 168
개인 정보는 어떻게 유출되고 있는가? ● 169
헬스케어 AI 도입으로 더욱 심해진 사생활 침해 ● 175
개인 정보 침해 문제, 해결할 수 있을까? ● 178
참고 자료 ● 180
7. 데이터 편향 혹은 지나친 의존 문제 ……………………………………………………… 182
데이터 편향과 지나친 의존이란? ● 183
데이터 편향과 지나친 의존으로 발생하는 문제들 ● 187
편향과 과다 의존 가능성 해소를 위한 방안 ● 191
제4장 AI 안전·신뢰의 미래 - 2024년 안전·신뢰AI기술 기술영향평가 결과
1. 들어가며 : 안전·신뢰 AI 기술 …………………………………………………………………… 198
왜 안전·신뢰AI 기술을 평가하였나 ● 198
헬스케어, 휴머노이드, 브레인(BCI) 기술을 대상으로 평가 ● 200
빅데이터 이슈 트렌드 분석, 전문가 심층 분석과 시민포럼 ● 201
2. AI에 대한 이슈의 트렌드와 대중의 인식 ……………………………………………………… 204
개인 정보에서 규제, 책임으로 : 이루다 사건과 챗GPT 등장 ● 204
실생활과 근접한 구체적 규제 담론 필요 ● 207
헬스케어, 휴머노이드, 브레인 AI에 대한 양면적 감정 ● 208
헬스케어 AI: 기술 발전에 대한 긍정적 시선 ● 208
휴머노이드 AI: 인간 실존에 대한 근원적 우려 ● 209
브레인 AI: 희망과 통제에 대한 양면적 시선 ● 210
3. 안전·신뢰 AI : 핵심 이슈와 과제 ………………………………………………………………… 214
전문가와 시민의 목소리 : 14대 주요 이슈, 17대 주요 과제 ● 214
전문가 평가, 대국민 설문을 통한 5대 핵심 이슈, 9대 핵심 과제 선정 ● 222
4. 나가며 : 시민이 생각하는 AI의 안전과 신뢰 ………………………………………………… 229
시민이 본 AI 안전의 키워드 : 사생활 보호, 통제 가능성, 그리고 의존성 ● 230
시민이 본 AI 신뢰의 키워드 : 일관성, 정확성, 투명성 ● 231
참고 자료 ● 233
"