이 누리집은 대한민국 공식 전자정부 누리집입니다.
데일리시큐 보도 내용입니다.
OpenAI는 최근 자사의 인공지능(AI) 챗봇인 챗GPT가 악용된 사이버 공격을 20건 이상 차단했다고 공식 발표했다.
공격은 주로 중국과 이란을 포함한 여러 국가 지원 해커 그룹에 의해 발생했으며, 이들은 챗GPT를 이용해 악성 소프트웨어 배포, 피싱, 악성코드 디버깅 등 다양한 방식으로 사이버 공격을 시도했다.
특히 중국의 사이버 첩보 위협 그룹인 ‘스위트스펙터(SweetSpecter)’는 아시아 정부를 주요 표적으로 삼아, OpenAI 직원들을 대상으로 악성 파일이 포함된 스피어 피싱 이메일을 발송하는 공격을 감행했다.
스위트스펙터는 해당 공격을 통해 중요한 정보나 시스템에 접근하려 시도한 것으로 알려졌다.
또한, 이란의 해커 그룹 ‘사이버어벤져스(CyberAv3ngers)’는 챗GPT를 사용해 프로그래머블 로직 컨트롤러(PLC)로 자격 증명을 생성한 후, 이를 이용해 산업 인프라 시스템을 공격하려는 시도를 했다.
PLC는 산업 플랜트의 유지, 관리, 제어 및 모니터링에 사용되는 장치로, 이들 시스템에 대한 공격은 국가 기반의 중요 시설에 심각한 피해를 줄 수 있는 위험 요소로 평가된다.
이어 디지털데일리 보도 내용입니다.
미국 캘리포니아대학교와 싱가포르 난양기술대학교의 보안 연구팀이 최근 AI 챗봇을 이용한 새로운 형태의 개인정보 탈취 공격 방법을 공개했다.
연구에 따르면, 일부 해커들은 AI 챗봇에 명령을 내려, 사용자와의 채팅 중에 입력된 개인정보를 자동으로 수집하고 이를 해커의 서버로 전송하도록 유도하는 방식을 사용하고 있다.
이러한 공격은 사용자가 AI 챗봇과의 대화 중에 이름, 신분증 번호, 결제 카드 정보, 이메일, 우편 주소 등 개인 정보를 입력할 경우 발생한다.
이 정보들은 이후 범죄나 사기 등 다양한 악용 사례로 이어질 수 있다.
연구팀은 향후 AI 챗봇을 사용할 때는 개인정보 입력에 각별히 주의할 필요가 있다고 강조했다.
사용자가 대화형 AI 시스템을 사용할 때, 개인정보 유출을 방지하기 위해 추가적인 보안 대책이 마련되어야 할 시점이라는 지적이 제기되고 있다.
메일경제 보도입니다.
애플은 자사의 AI 구동을 위한 프라이빗 클라우드 컴퓨터(Private Cloud Computer, PCC)에 대한 보안 안전성을 강화하기 위해 외부 보안 연구자들에게 최대 100만 달러의 상금을 지급하는 버그 바운티 프로그램을 발표했다.
이번 프로그램은 외부 공격자들이 애플의 클라우드 시스템에 존재할 수 있는 보안 취약점을 발견하고 신고할 경우, 이를 보상하는 형태로 운영된다.
PCC는 애플이 자체 개발한 AI 시스템 ‘애플 인텔리젼스’를 구동하기 위해 구축한 내부 시스템으로, 사용자의 데이터가 외부 애플 서버로 이동하는 과정에서 보안 취약점이 발생할 수 있다.
애플은 버그 바운티 프로그램을 통해 임의적 코드 실행(Arbitrary Code Execution), 사용자 데이터 접근(User Data Access) 등 여러 종류의 보안 취약점에 대해 최소 5만 달러에서 최대 100만 달러까지 보상을 지급할 계획이다.
주요 국적별 특허출원 현황으로는 중국 3,305건으로 75%의 압도적 비율을 가지고 있고, 이어 미국 649건, 한국 303건 순이다. 주요 출원인별 특허출원 동향으로는, 중국의 저장공업데, 텐센트, 화웨이, 바이두 등 중국 기업 및 기관들이 상위 출원인으로 나타났고, 아이비엠과 MS 등 미국 기업도 상위 10개 기관에 포함되었다.
한국은 전체적으로 미미한 숫자이며 그 중 삼성전자가 19건으로 가장 많은 출원을 보이고 있다.
상담센터(1544-8080)