[바른ICT연구소 콜로키움 & 렉쳐 시리즈] 2025년 핵심 강연 톺아보기

안녕하세요?

바른ICT연구소에서는 2025년 한해 동안 개최된 콜로키움와 렉쳐 시리즈를 다시 한번 짚어보는 시간을 갖고자 합니다.
2025년에는 총 16개의 강연이 진행되었고, 이 강연을 3가지 주제인 AI 기술의 진화와 에이전트(Agent)시대, 데이터 기반 산업 혁신과 미래 전략, AI 거버넌스: 법·제도·윤리의 재정립으로 구성하여 다뤘습니다.
바른ICT연구소의 콜로키움과 렉쳐 시리즈에 관심있는 분들이나 다시 한번 강의를 되새기고 싶으신 분들께는 내용을 정리하시기에 적합한 자료가 될 것입니다.
이제부터 지난 강연들을 만나볼까요?

(*이 자료는 바른ICT연구소 남현진 인턴이 재구성하고 요약한 글입니다.)

Ⅰ. AI 기술의 진화와 에이전트(Agent) 시대
1. 행동경제 실험을 활용한 인공지능 역량 평가와 유저 행동
2. 북토크 콘서트 <인공지능 시대 무기가 되는 생각법>
3. AI and US: Learn better, Think Deeper, Wort smarter
4. Physical AI와 로봇
5. 생성형 AI 시대의 Agent 서비스 전략

Ⅱ. 데이터 기반 산업 혁신과 미래 전략
1. 대체 데이터를 이용한 실시간 크롤링 및 분석 사례
2. 독감 확산 예측을 위한 웹 데이터 기반 AI 기술 활용
3. 인증의 진화: 다양한 관점에서 본 인증 패러다임의 변화
4. AI security, Business 전략
5. AI와 일하는 방식 변화
6. AI 디지털 세대 의료 마이데이터가 디지털 헬스케어 산업에 불러올 변화와 기대
7. The Vibe Coding for Analysis

Ⅲ. AI 거버넌스: 법·제도·윤리의 재정립
1. AI와 법제도
2. LLM 기반의 생성형 AI 환경에서의 정보 주체
3. 생성형 AI의 할루시네이션
4. 고영향 AI의 경계와 책임: 기준 설정에서 사업자 책무까지

I. AI 기술의 진화와 에이전트 시대
1. 행동경제 실험을 활용한 인공지능 역량 평가와 유저 행동
콜로키움 3_20250312_포스터_행동경제 실험을 활용한 인공지능 역량평가
주제: AI 추천 시스템, 인간의 선택을 모방할 수 있을까?
일시: 2025년 3월 12일, 11:00
장소: 새천년관 302호
강연자: 신은철 교수 (KAIST 경영대학)
① 핵심 주제
– 연구 목적: 대규모 언어 모델(LLM)이 경제적 합리성을 갖춘 의사결정 도구로 활용될 수 있는지 실험 경제학적 접근법으로 검증.
– 실험 방법: OpenAI의 GPT 모델에 인간 투자 데이터를 학습시켜 개인별 맞춤 추천을 수행하고, ‘효용 극대화’ 원칙과의 일치 여부 평가.
– 긍정적 결과: 데이터 학습량이 많을수록 인간의 선택 패턴과 유사해지며, 패턴 인식 뿐 아니라 행동 경제학적 요소까지 반영 가능함.
– 한계점: AI는 인간의 ‘불확실성 회피 성향’이나 ‘직관적·감정적 판단(비합리적 요소)’을 완벽히 학습하지 못하며, 데이터가 부족할 경우 정확도가 급격히 저하됨.
② 향후 계획 및 결론
– 역할 정의: AI는 인간의 의사결정을 대체하는 것이 아니라 보완하는 도구임.
– 해결 방안: AI의 데이터 분석 능력과 인간의 최종 검토가 결합된 ‘하이브리드 접근법’이 필요.
– 미래 전망: 실험 경제학이 AI 역할 검증의 도구가 될 것이며, 기술이 발전할수록 인간과 AI의 협업은 더욱 필수적이 될 것임.

2. 북토크 콘서트 <인공지능 시대 무기가 되는 생각법>
콜로키움 4_20250317_포스터_인공지능 시대 무기가 되는 생각법
일시: 2025년 3월 17일, 11:00
장소: 새천년관 302호
강연자: 변창우 저자 (오렌지라이프 부사장)
① 주요 내용 및 핵심 개념:
– 인간과 AI의 역할: AI는 인간을 대체하는 것이 아닌 보완하는 존재이며, 인간은 문제를 정의하고 창의적으로 해결하는 역할을 맡아야 함.
– 사이보그형 사용법: AI에 전적으로 의존하거나 무시하는 것보다, AI를 통합하고 인간이 검증하는 방식이 가장 높은 생산성을 보임.
– 문제 해결 프레임워크 제시:
SCQA: 상황(Situation) → 전개(Complication) → 질문(Question) → 답변(Answer)의 흐름으로 문제를 명확히 정의.
MECE: 중복과 누락 없는 분류를 통해 논리적 분석 수행 (자동화 영역 vs 창의적 판단 영역 구분).
HIPS 프로세스: 기존 방법론(디자인 씽킹 등)을 보완하여, 사고의 확산과 수렴을 반복해 최적의 해답을 찾는 통합적 문제 해결법.
② 결론 및 시사점
AI와 협업하는 능력과 통합적 사고가 미래의 핵심 경쟁력.
AI를 진정한 파트너로 삼아 성과와 효율성을 극대화해야 함.

3. AI and US: Learn better, Think Deeper, Wort smarter

일시: 2025년 5월 20일, 11:00
장소: 새천년관 302호
강연자: 김남일 교수 (연세대학교 정보대학원)
① 핵심 주제
– 개인의 판단과 학습 변화: AI 도입 후 경험과 직관에 의존하던 판단이 정량화·최적화됨. 판단의 기준점이 인간 내부에서 기계 외부로 이동하는 구조적 변화 발생.
– 집단적 지식 구조 재편: 수백 년 된 정석이 AI 패턴으로 교체되고 지식 쏠림 현상 강화. AI가 지식의 ‘표준’을 재정의하고 집단의 학습 구조를 재조직함.
– 조직 내 협업 방식 변화: AI의 흉부 엑스레이 사전 판독이 타과 협진 요청 확률을 높임. 전문가 간 협업의 순서와 우선순위를 재배치하고 업무 프로세스를 재구조화.
② 향후 전망 및 결론
– AI의 본질: 인간을 대체하는 것이 아니라, 인간의 사고와 행동을 다시 구성(Reconstruction)하는 조건임.
– 기술과 인간의 관계: 우리가 기술을 사용하는 동시에 기술이 우리의 행동을 설계함.
– 결론: 변화의 비대칭성과 가능성을 인식해야 하며, 변화의 방향은 결국 기술이 아닌 ‘인간의 선택’에 달려 있음.

4. Physical AI와 로봇

일시: 2025년 11월 21일, 11:00
장소: 새천년관 302호
강연자: 이상민 NEUBILITY CEO
① 핵심 주제
Embodied AI 전환: AI가 물리적 형태를 입고 현실 세계와 상호작용하는 시대로 변화 중임.
비용 및 복잡성 해결: 고가의 라이다(LiDAR)와 정밀 지도(HD Map) 대신, 카메라 기반 자율주행(V-SLAM)과 Mapless Autonomy 기술을 통해 비용을 혁신적으로 낮추고 확장성 확보.
데이터 경쟁력: 7~8년간 서울 강남 등 다양한 환경에서 누적 3,500만 건 이상의 실주행 데이터(악천후 포함)를 구축하여 시뮬레이션 한계 극복.
RaaS(Robot-as-a-Service) 모델: 로봇 뉴비(NEUBIE)와 관제 플랫폼 뉴비고(NEUBIEGO)를 통해 하드웨어 판매가 아닌 배달·순찰·물류 서비스 제공.
② 향후 계획 및 전망
글로벌 파트너십: 일본(SECOM, Demaecan), 미국(Uber Eats) 등 글로벌 기업과의 협력을 통해 해외 시장 성과 창출.
사업 확장: 타 로봇 하드웨어 기업에 로봇 지능을 라이선싱하는 사업으로 확장.
핵심 철학: “가장 어려운 도심 주행 문제를 풀면 나머지 문제는 자연스럽게 해결된다”는 접근으로 로봇을 일상 서비스로 안착시키는 데 주력.

5. 생성형 AI 시대의 Agent 서비스 전략

일시: 2025년 11월 24일, 16:30
장소: 새천년관 302호
강연자: 전병진 팀장 (LG U+ B2B AX플랫폼 개발팀)
① 핵심 주제
– 교육 분야 혁신:
sLLM 도입: 학교 현장에는 전 세계 지식을 다루는 범용 LLM보다, 교육 행정 및 피드백에 특화된 sLLM(소형언어모델)이 효과적임 .
교사 지원: AI는 평가 보조, 행정 자동화 등을 통해 교사의 시간을 절약하고 역할을 ‘대체’가 아닌 ‘증폭’하는 도구임 .
– AI 에이전트(Agent) 전환:
개념 진화: 단순 대화형 AI(Level 1)에서 벗어나, 스스로 계획하고 도구를 사용하여 ‘실행(Action)’하는 에이전트(Level 3)로 진화 중 .
플랫폼 변화: 검색 포털과 앱스토어 시대를 지나, AI 에이전트가 디바이스를 제어하는 OS 역할을 하는 시대로 전환 .
멀티 에이전트: 단일 에이전트가 아닌 여러 에이전트가 협력(Network, Supervisor 구조)하여 복잡한 문제를 해결하는 방식이 대세가 됨 .
② 향후 전망 및 제언
– 시장 경고 (Gartner): ‘에이전트 워싱(과대광고)’에 대한 주의가 필요하며, 실제 비즈니스 가치와 비용을 고려하지 않은 프로젝트는 실패할 확률이 높음 .
– 거버넌스 강화: EU AI Act(위험 등급별 규제) 및 미국 행정명령(레드팀 테스팅) 등 AI 안전성과 보안을 위한 규제가 강화됨에 따라 이에 대한 대비가 필수적임 .
– 보안 이슈: 생성형 AI의 정보 수집(위치, 연락처 등) 및 유출 우려에 대응하여 기업별 보안 지침(사용 제한 등) 준수가 중요해짐 .

Ⅱ. 데이터 기반 산업 혁신과 미래 전략
1. 대체 데이터를 이용한 실시간 크롤링 및 분석 사례
콜로키움 1, 2_20250117_포스터_이종화, 장백철
일시: 2025년 1월 17일, 11:00~14:00
장소: 연세대 백양누리 더라운지 머레이홀
강연자: 이종화 교수 (동의대학교 정보경영학부 교수)
① 핵심 주제
– 마이 데이터 기반 직무 추천: 유튜브 및 SNS의 영상과 댓글을 실시간으로 크롤링·분석하여 구직자에게 적합한 직무를 추천하는 시스템 (‘Wheel of Job’, AI 컨설팅 플랫폼).
– 의료시설 치유 공간 설계: 설명 가능한 인공지능(XAI)과 가상현실(VR) 실험을 통해 환자 반응 데이터를 분석하고, 최적의 치유 환경을 조성.
– 어종 관리 및 ESG 대응: 해수 온도 상승 및 ESG 이슈에 맞춰 한국수산자원공단(FIRA)과 협력, 수산자원 데이터를 활용한 맞춤형 분석 솔루션 개발.
– ICT 연구 동향 분석: 학술지 데이터를 실시간 크롤링하여 연구 주제 변화와 주요 키워드를 도출 (관련 시스템 특허 출원)
② 향후 계획
– 직무 추천 및 크롤링 기술의 특허 등록 검토
– 날씨 콘텐츠 크롤링 방법 개선 및 파일럿 테스트 진행

2. 독감 확산 예측을 위한 웹 데이터 기반 AI 기술 활용
일시: 2025년 1월 17일, 11:00~14:00
장소: 연세대 백양누리 더라운지 머레이홀
강연자: 장백철 교수 (연세대학교 정보대학원 교수)
① 핵심 주제
– 기존 예측의 한계 극복: 질병관리본부 데이터의 1~2주 지연 문제와 기존 AI 모델(LSTM 등)의 장기 예측 정확도 저하 문제를 해결하기 위해 웹 빅데이터 활용.
– 시간 선행 상관관계 발견: ‘예방 접종’ 등 특정 검색어가 독감 발생보다 약 10주 선행하여 높은 상관관계를 보인다는 점을 규명.
– MEDIF-T 모델 개발: 웹 데이터와 질병관리청 데이터를 결합하고 어텐션 메커니즘을 적용하여 지연된 웹 데이터를 가중치로 활용하는 새로운 예측 모델을 개발.
– 획기적인 장기 예측 성능: 기존 모델 대비 5주 및 10주 후 예측에서 높은 정확도를 유지함. 특히 10주 후 예측 성능이 가장 우수함을 입증.
② 향후 계획 및 기대 효과
– 웹 데이터를 활용한 감염병 예방 정책 수립에 기여
– 독감 외 다양한 전염병 및 사회 현상의 장기 예측 모델로 확장 및 활용

3. 인증의 진화: 다양한 관점에서 본 인증 패러다임의 변화
콜로키움 5_20250402_포스터_인증(Authentication)의 진화
일시: 2025년 4월 2일, 11:00
장소: 새천년관 302호
강연자: 진승헌 박사 (ETRI 사이버보안연구본부 인공지능데이터보안연구실)
① 핵심 주제
– 인증 기술의 변화: 초기 패스워드 방식에서 이중 인증(2FA/MFA), 사설 인증(PASS, 카카오 등)을 거쳐 현재는 패스워드리스, 생체 인증, 패스키(Passkey) 등으로 진화.
– 생체 인증 보안: 지문, 얼굴 인식 등 편의성은 높으나 유출 시 복구가 불가능한 단점을 보완하기 위해 FIDO 표준 도입 및 로컬 디바이스 저장 방식 활용.
– AI 기반 보안 위협: AI를 이용한 딥페이크, 스피어 피싱, 웨일링 등 정교한 공격 증가에 대응하여 지속적인 신원 검증을 요구하는 ‘제로 트러스트(Zero Trust)’ 모델이 핵심 전략으로 부상.
– 탈중앙화 인증(DID): 사용자가 신원 정보를 직접 관리하여 불필요한 데이터 유출을 방지하고 보안성을 강화.
② 향후 전망 및 결론
– 보안과 편의성의 균형: 과거의 Trade-off 관계에서 벗어나, 바이오 인증과 MFA 등을 통해 보안과 편의성의 균형(Balance)을 추구.
– 미래 인증 환경: 패스워드리스와 탈중앙화 인증 확산을 통해 ‘보이지 않지만 안전한(Invisible)’ 인증 환경 조성 기대.
– 결론: 인증은 디지털 세상 신뢰의 출발점이며, AI 발전과 함께 증가하는 위협에 대비해 최신 기술을 적극 도입해야 함.

4. AI security, Business 전략

일시: 2025년 4월 9일, 11:00
장소: 새천년관 302호
강연자: 이기혁 교수 (중앙대학교 산업보안학과)
① 핵심 주제
– 보안 체계의 전환: AI는 방대한 데이터를 실시간 분석해 이상 징후를 조기 탐지하며, 기존의 수동적 보안을 능동적·예측적 체계로 전환하는 핵심 동력임.
– AI 보안 솔루션 5대 원칙: 고객중심 맞춤형, AI를 통한 가치 실현, 구성원 생산성 향상, 증강된 인간 중심적 요소, 사전예방 및 예측을 제시.
– 새로운 위협의 등장: AI는 방어 도구인 동시에 공격 수단(정교한 피싱, 딥페이크 여론 조작 등)이 될 수 있음.
– AI 워싱(Washing) 경고: 실제 기술 없이 마케팅으로만 AI를 내세우는 행위가 시장 신뢰를 저해함을 지적.
② 향후 계획 및 제언
– 사회적 계약의 재구성: 보안은 기술 방어뿐 아니라 신뢰, 투명성, 윤리성을 기반으로 한 새로운 사회 계약 위에서 재구성되어야 함.
– 핵심 해결 과제: 설명 가능성(XAI) 및 검증 가능성 확보, 윤리적 가이드라인 마련 및 운영, 민·관·학 삼각 협력 체계 구축.
– 선제적 대응: 딥페이크 및 지능형 사회공학 공격 등 신종 위협에 대비해 기존 모델을 넘어서는 다층적 방어 체계 마련 필요.
– ‘전략적 성찰과 실천’을 통해 신뢰할 수 있는 디지털 사회를 구축해야 함.

 
5. AI와 일하는 방식 변화

일시: 2025년 4월 26일, 13:00
장소: 이윤재관 701호
강연자: 임일 교수 (연세대학교 경영대학)
① 핵심 주제
– LLM의 혁신: ChatGPT는 웹브라우저처럼 AI 기술을 대중화시킨 사례이며, 텍스트 생성(GPT)과 인간 피드백 강화학습(RLHF), 대화 관리 기술의 결합체임.
– 기술/비즈니스 트렌드:
저비용 고효율: DeepSeek 등 SLLM 등장으로 개발 비용 하락 및 ‘제본스의 역설’에 따른 AI 수요 폭발 예상.
B2B 전환: 범용 모델의 크기 경쟁이 끝나고, 특화된 B2B 모델이 수익을 창출하는 구조로 변화.
– 지식 관리의 변화: AI는 형식지(문서화된 지식) 처리에 능함. 인간은 형식지를 학습해 암묵지(직관, 노하우)를 내재화해야 하는데, AI 의존도가 높아지면 이 과정이 단절될 우려가 있음.
– 창의성 실증 연구: 금융권 실험 결과, AI 활용 시 직원들의 창의적 문제 해결 능력과 성과가 향상되었으며, 특히 고성과자에게서 그 효과가 더 크게 나타남.
② 향후 계획 및 제언
– 기업의 과제: AI를 통한 생산성 향상과 구성원의 장기적 역량(암묵지) 개발 사이에서 균형 잡힌 인재 양성 플랜 수립 필요.
– 개인의 대응: AI 활용 능력은 필수이나, AI가 대체 불가능한 직관과 창의성을 기르기 위해 해당 분야의 기본 지식 학습을 게을리하지 말아야 함.

6. AI 디지털 세대 의료 마이데이터가 디지털 헬스케어 산업에 불러올 변화와 기대
콜로키움 10_20250528_포스터_AI 디지털 시대 의료 마이데이터와 디지털 헬스산업 변화
일시: 2025년 5월 28일, 11:00
장소: 새천년관 302호
강연자: 이병남 고문 (김&장 법률사무소)
① 핵심 주제
– 구조적 전환 장치: 마이데이터는 산업 구조, 데이터 거버넌스, 서비스 방식을 바꾸는 장치임.
– 정보 주체 권한 강화: 기존의 수동적 동의 방식에서 벗어나, 정보 주체가 제3자에게 데이터 전송을 요구할 수 있는 실질적 권한(전송요구권)을 부여해 산업 혁신의 기초를 마련.
– 의료 분야 혁신: CD 복사 없이 의료기관 간 디지털 전송이 가능해지며, 공공·민간 데이터 결합을 통한 맞춤형 헬스케어 서비스 구현.
– 법적 기반 및 특징: 한국은 산업 생태계 형성을 위해 마이데이터를 입법화한 유일한 국가로, GDPR보다 확장된 법적 설계를 갖추고 있음 (2023년 전 분야 제도화 기반 마련).
– 융복합 산업 연결: 의료정보를 기계 판독 가능 형태로 전송하여 의료-AI-보험-IT를 연결하는 핵심 데이터로 활용.
② 향후 전망 및 제언
– 미래 성장 동력: 고령화 시대에 디지털 헬스 산업은 반도체 이후 대한민국의 차세대 주력 산업이 될 잠재력이 있음.
– 해결 과제: 표준화, 안전성, 수수료 체계 등의 정교한 설계가 필요함.
– 정부 역할: 민간 중심의 자율적 생태계 구축을 위해 정부는 중개자 및 조정자 역할에 집중해야 함.

7. The Vibe Coding for Analysis

일시: 2025년 12월 10일, 13:00
장소: 새천년관 302호
강연자: 김태경 교수 (경희대학교 빅데이터응용학과)
① 핵심 주제
– 바이브 코딩의 도입: 복잡한 프로그래밍 문법(Syntax)을 직접 작성하는 대신, AI에게 자연어로 의도(Vibe)를 전달하여 코드를 생성하고 실행하는 새로운 분석 방법론 제시.
– 분석 도구의 혁신 (Positron & Colab):
Colab + Gemini: 구글 Colab 환경에서 Gemini를 활용해 데이터 시각화(ggplot2) 및 통계 분석 코드를 자동 생성하는 과정 시연.
Positron: RStudio 개발사가 만든 새로운 IDE인 ‘Positron’을 활용, 챗봇(Claude, ChatGPT)과 연동하여 실시간으로 코드를 생성하고 디버깅하는 환경 소개.
– 교육 및 연구 방식의 변화:
교육: 문법 교육에서 벗어나 플립 러닝(Flipped Learning)을 통해 토론과 문제 정의에 집중하는 수업으로 전환.
연구 (R-ViCo): 연구를 위한 R Vibe Coding을 제안하며, AI를 유능한 조교(Coder)로 활용해 연구 생산성을 높이는 전략 제시.
② 향후 계획 및 제언
– 진입 장벽 완화: 코딩에 대한 두려움 없이 누구나 데이터 분석에 접근할 수 있게 됨.
– 본질적 가치 집중: 기계적인 코딩 시간은 줄이고, 분석 결과의 해석과 이론적 배경에 더 집중할 수 있는 환경 조성. 

Ⅲ. AI 거버넌스: 법·제도·윤리의 재정립
1. AI와 법제도

일시: 2025년 5월 21일, 11:00
강연자: 이성엽 교수 (고려대학교 기술경영전문대학원)
① 핵심 주제
– EU (AI Act): 세계 최초의 포괄적·수평적 규제법. ‘위험 기반 접근’에 따라 4단계로 분류하며, 고위험 및 GPAI(범용 AI)에 대해 적합성 평가 등을 의무화.
– 미국: 연방 통합 법률 없이 NIST 프레임워크와 행정명령 활용. 공공은 신뢰 도입, 민간은 자율 규제로 혁신 역동성 보장.
– 중국 & 영국: 중국은 사회 통제 요소를 반영한 개별 기술 단위 규제, 영국은 부처별 가이드라인을 수립하는 ‘분산형 규제 모델’ 채택.
– 한국 (인공지능 기본법): 2024년 12월 국회 통과(세계 2번째 포괄적 법), 2026년 1월 시행. AI를 고영향·생성형·고성능으로 분류하여 의무 부과. 산업계는 기준 불명확성과 중복 규제 우려 제기.
– 데이터 및 저작권 이슈: 현행 개인정보 보호법의 제약을 개선하기 위한 개정 논의 및 AI 학습과 저작권(TDM 등) 균형을 위한 제도 정비 필요성 공론화.
② 향후 제언 및 결론:
– 정책 방향: 한국이 글로벌 경쟁력과 규범 선도국 사이 균형을 이루기 위해 입법 속도뿐만 아니라 실행의 정합성이 중요함.
– 세부 설계: 산업계와의 소통, 국제 규범과의 조화 등을 고려한 세부적인 정책 설계가 필요함.

2. LLM 기반의 생성형 AI 환경에서의 정보 주체

일시: 2025년 9월 10일, 13:00
장소: 새천년관 302호
강연자: 장재영 박사 (한국인터넷진흥원)
① 핵심 주제
– 자기 결정권 위기: LLM은 이용자가 제공하지 않은 정보도 수집·생성하여 통제가 어려우며, ‘즉시 파기’를 요구하는 법령과 ‘재학습/삭제’에 장시간이 걸리는 기술 간 충돌 발생.
– 침해 및 규제 사례:
ChatGPT: 이탈리아의 GDPR 위반 접속 차단 및 이후 오픈AI의 데이터 거부권 도입 등 개선 조치.
DeepSeek: 키보드 입력 패턴 수집 등 과도한 정보 수집 논란 및 한국 개보위의 시정·개선 권고(국외 이전 근거 마련 등).
이루다: 무분별한 데이터 학습으로 인한 실명·주소 유출 사고.
– 이용자 보호 조치: 챗봇 히스토리 삭제, 학습 데이터 사용 거부(Data Controls) 설정, Privacy Portal을 통한 권리 행사 방법 안내.
② 향후 계획 및 제언
– 제도 정비: 자동화된 의사결정 및 LLM 특성을 반영한 법률 및 제도 정비 필요.
– 기술적 대안:
입력/학습: 가명·익명 정보 활용, 프롬프트 필터링, 학습 데이터 출처 관리.
출력/파기: 기계 망각 기술 연구 및 출력 결과 필터링 도입.
– 알 권리 보장: 개인정보 추적 및 설명 가능 기술 개발을 통해 정보 주체의 권리 구제 수단 강화.
 

3. 생성형 AI의 할루시네이션

일시: 2025년 9월 22일, 11:00
장소: 새천년관 302호
강연자: 전우정 교수 (KAIST 문술미래전략대학원)
① 핵심 주제
– 사법 제도의 충격: 미국과 영국 법원에 AI가 생성한 가짜 판례가 제출되는 사건 발생. 영국 고등법원은 이를 사법 방해죄로 보아 무기징역형 가능성까지 경고함.
– 미국 사례 (Mata v. Avianca 등): 변호사가 AI의 허위 인용을 검증 없이 제출한 행위를 ‘중대한 과실(객관적 합리성 결여)’로 판단하여 벌금 및 교육 명령 부과
– AI 환각의 유형: 존재하지 않는 유령 판례(phantom citations), 법리를 잘못 연결한 판례 오인(misattributed holdings), 관할을 혼동한 관할 착오(jurisdictional errors) 등으로 구체화.
– 윤리적 위협: 변호사의 게이트키퍼(gatekeeper) 역할과 성실·진실 의무를 위협하는 윤리적 문제로 해석.
② 향후 전망 및 시사점
– 전사적 위험 도입: 영국 법원은 로펌 차원의 감독·교육·정책 부재 시 조직 전체에 책임을 묻는 개념을 제시.
– 새로운 윤리 표준: 법원이 금전적 제재 외에 기술 교육을 의무화한 것은 AI 활용에 대한 새로운 직업적 책임과 윤리 표준을 요구하는 것임.
– 핵심 과제: 기술적 완벽성보다는 인간 법조인의 검증 능력, 체계적인 교육, 그리고 조직 차원의 리스크 관리가 법조계의 핵심 과제가 될 것임.

4. 고영향 AI의 경계와 책임: 기준 설정에서 사업자 책무까지

일시: 2025년 10월 28일, 11:00
장소: 새천년관 302호
강연자: 차건상 교수 (건양대학교 스마트보안학과)
① 핵심 주제
– 산업 현황 및 이슈: 기업의 생성형 AI 도입 증가와 함께 환각 현상, 보안 위협, 의료 AI의 편향 및 프라이버시 문제가 핵심 쟁점으로 대두.
– EU 입법 동향 (AI Act): 위험 기반 접근법 채택. 4단계(허용 불가, 고위험, 제한된 위험, 최소 위험) 분류를 통해 고위험 AI에 엄격한 의무 부과.
– 한국 입법 동향 (AI 기본법): 산업 진흥에 비중을 두며 고영향 용어 사용. 사람의 생명·신체·기본권에 영향을 미치는 10개 특정 영역으로 한정.
– 의무 규정:
투명성 확보: 생성형 AI 및 고영향 AI 대상.
안전성 확보: 누적 연산량 10^26 이상의 ‘고성능 AI’ 개발사업자 대상.
개인정보보호법 연계: 자동화된 결정(채용 심사 등)에 대한 정보주체의 설명 요구권 및 거부권 보장.
② 향후 제언 및 결론
– 법리적 논의 필요: RAG 데이터 성격, AI 추론 민감정보 취급 등 법적 쟁점 지속 논의.
– 균형 잡힌 시각: AI 산업 활성화와 인권·윤리 사이의 밸런스 유지가 핵심.
– 연구기관 역할: 균형 잡힌 프레임워크 마련과 사회적 과제 해결을 위한 연구기관의 역할 강조.