【 청년일보 】 최근 생성형 AI를 둘러싼 열기는 식을 줄 모른다. 생성형 AI와 관련된 새로운 모델들이 쏟아지고 기업들은 LLM을 이용한 새로운 신제품을 만들어낸다. 이렇게 생성형 AI가 우리의 삶 깊숙이 자리잡고 있음에도 AI가 정말 진실을 말하고 있는 것인지 의문이다. 대형 언어 모델, 즉 GPT-4나 Claude 같은 모델들은 기본적으로 정적이다. 대부분의 경우 이들은 학습 시점 이후의 정보를 반영하지 못한다. 최신 뉴스? 오늘 발표된 정책? 어제 생긴 사건? 일반적인 LLM은 모른다. 특히, 신뢰할 수 없는 출처로부터 답변을 생성하기도 한다. 이렇게 사전 구축된 모델을 사용하는 경우 생성형 AI는 마치 아는 것처럼 보이지만 사실 틀린 정보를 진짜처럼 말할 수 있다. 이 현상이 바로 생성형 AI의 고질적인 문제로 알려진 환각 현상의 시작점이다. 이 문제를 해결하기 위해 등장한 것이 바로 RAG(Retrieval-Augmented Generation)다. 이름부터 낯설지만 개념은 생각보다 단순하다. 질문을 받으면 AI가 먼저 외부 문서를 검색하고 그걸 바탕으로 답변을 생성하는 방식이다. RAG의 작동 방식을 조금 더 구체적으로 살펴보자. 먼저 사용자가
【 청년일보 】 딥페이크는 인공지능, 특히 GAN 기술을 이용해 사람의 얼굴, 음성, 행동 등을 합성하거나 변형하는 기술이다. 이 기술은 기존의 이미지나 영상을 조작하여 영화나 광고에서 특수 효과로 사용되었으나 최근에는 개인의 이미지나 목소리까지 합성하는 데 사용되면서 큰 문제를 일으키기도 했다. 딥페이크 기술이 점점 발전하면서 문제가 더 심각해지고 있다. 여기서 GAN은 두 개의 신경망이 서로 경쟁하며 학습하는 딥러닝 모델이다. 생성자는 실제 데이터와 유사한 데이터를 생성하려 하며 판별자는 생성된 데이터와 실제 데이터를 구별하는 역할을 한다. 이 과정에서 생성자는 점점 더 정교한 데이터를 만들고 판별자는 이를 더욱 잘 분별하도록 학습한다. 이러한 경쟁을 통해 GAN은 이미지 생성, 스타일 변환, 초해상도 복원 등 다양한 생성 모델에 활용된다. 일반 GAN 외에도 조건부 GAN, StyleGAN 등 다양한 변형 모델이 존재하며 학습 과정의 불안정성과 모드 붕괴 같은 문제 해결을 위한 연구도 활발히 진행되고 있다. 딥페이크 기술은 우리 사회에 긍정적인 변화와 부정적인 변화를 모두 가져왔다. 긍정적인 변화로는 영화, 드라마, 게임 등에서 특수 효과나 가상 캐릭터
【 청년일보 】 최근 몇 년간 인공지능 기술은 급격한 발전을 거듭해오고 있다. 자율주행자동차, 개인화된 추천시스템, 대화형 챗봇 등 AI는 이제 우리의 삶에 자연스럽게 녹아있으며 AI의 영향력은 더 커져가고 있다. 이러한 변화는 특히 사이버 보안 분야에서도 큰 발전을 이루고 있다. 하지만 동시에 AI기술의 발전은 해커들에게도 강한 무기가 되고 있기도 하다. 이로 인해 사이버 보안의 세계는 AI vs AI 싸움으로 이어지고 있으며 이는 AI가 우리에게 보호막이 될 것인가, 아니면 위협이 될 것인가라는 의문을 품게 한다. AI를 이용한 더욱 정교한 공격 기법의 대표적인 사례로는 지능형 피싱 공격과 자동화된 해킹 도구(AI Malware)가 있다. 먼저, 지능형 피싱 공격은 AI의 생성 능력을 활용해 사용자를 속이는 수법이다. 이를 활용한 피싱 이메일은 기존의 피싱 공격보다 훨씬 정교하다. AI가 사람의 대화 패턴을 학습하고 맞춤형 메시지를 작성하여 사용자를 속이는 것이다. 또 다른 위협으로는 AI Malware가 있다. AI Malware는 AI 기술을 활용해 네트워크 트래픽을 분석하고 보안 시스템의 패턴을 학습하여 기존의 방화벽이나 백신을 회피할 수 있는 악성
서울특별시 영등포구 선유로49길 23, 415호 (양평동4가, 아이에스비즈타워2차) 대표전화 : 02-2068-8800 l 팩스 : 02-2068-8778 l
법인명 : (주)팩트미디어(청년일보) l 제호 : 청년일보 l 등록번호 : 서울 아 04706 l 등록일 : 2014-06-24 l 발행일 : 2014-06-24 |
편집국장 : 성기환 | 고문 : 고준호ㆍ오훈택ㆍ고봉중 | 편집·발행인 : 김양규
청년일보 모든 콘텐츠(영상,기사, 사진)는 저작권법의 보호를 받은바, 무단 전재와 복사, 배포 등을 금합니다.
Copyright © 2019 청년일보. All rights reserved. mail to admin@youthdaily.co.kr
UPDATE: 2025년 07월 12일 14시 03분
