• 목록
• 답변
• 글쓰기

앤트로픽의 최첨단 인공지능(AI) 모델이 테스트 도중 가짜 신분으로 사람을 속이고 악성 코드를 심으려 하는 등 이상행동을 보인 것으로 나타났다.
영국 인공지능보안연구소(AISI)는 앤트로픽과 오픈AI 모델을 시험한 결과 이들 모델이 승인되지 않은 작업을 수행하면서 ‘사회공학 기법’을 사용한 사실을 처음 확인했다고 5일(현지시간) CNN이 보도했다. 사회공학 기법은 인간의 심리적 취약점을 이용해 정보를 얻어내는 공격 방법으로 피싱이 대표적이다. AISI는 “실제 사람을 대상으로, 아무 지시 없이 이처럼 심각한 수준의 사기 행위가 확인된 것은 처음”이라고 했다.
AISI는 최근 보고서에서 122번의 사이버 보안 테스트 중 10차례 AI 에이전트가 자율적으로 행동하며 사람과 조직을 표적으로 삼았다고 했다. 앤트로픽 미토스 5 모델에서 다수 사례가 발견됐으며 오픈AI의 GPT-5.6 솔 모델에서도 비슷한 일이 발생했다. 아직 실제 피해 증거는 파악되지 않았다.
테스트에서 이들 AI 에이전트는 오픈소스 프로젝트에 악성 코드를 심으려 했다. 여러 개의 가짜 신분을 만들었고, 실제 사람에게 메시지와 파일을 보내 그 사람의 AI 코딩 도구가 악성 코드를 실행하게 하려 했다. 이 시도가 실패하자 고의로 이뤄진 일이 아닌 것처럼 이전 기록을 수정했다. 관리자가 악성 코드를 발견하면서 AI의 시도는 무위에 그쳤다.
테스트는 안전성 평가를 위해 AI 에이전트의 인터넷 접근 권한 등을 허용하고 안전장치를 제거한 조건에서 이뤄졌다. 앤트로픽은 엑스에서 “(실험) 모델들은 실제 상용 모델과는 다르게 의도적으로 통제되지 않은 환경에서 시험받았다”며 “자체 조사를 진행하면서 AISI와 긴밀하게 협력해 이번 사건의 세부 정황을 파악하고 있다”고 밝혔다.
최근 메타에서도 자체 테스트 과정에서 비슷한 문제가 나타났다.
사이버 보안 전문가 마크 로저스는 폴리티코에 “이런 공격이 인간 소행이었다면 명백히 기소됐을 것”이라며 “컴퓨터 보안법 개정을 논의해야 할 때”라고했다.
조국 조국혁신당 혁신정책연구원장이 5일 단일종목 레버리지 상장지수펀드(ETF)와 관련해 “민정수석실의 감찰이 필요하다”며 “김용범 청와대 정책실장 등의 책임을 물어야 한다”고 밝혔다.
조 원장은 이날 페이스북에 “정부의 단일종목 레버리지 ETF 도입은 명백한 정책 실패”라며 “작금의 사태는 청와대 정책실, 국무조정실, 금융위원회, 금융감독원 등 김용범 정책실장을 필두로 한 정부의 정책 핵심들이 만들어낸 관치 금융의 실패”라고 적었다.
조 원장은 “왜 정부가 부동산에서 증시로의 머니 무브를 허술하게, 그리고 조급하게 재촉했는지 의문이 들지 않을 수 없다”며 “명백한 관치 금융의 실패를 이대로 어물쩍 넘길 순 없다. 김용범 실장을 비롯해, 윤창렬 국무조정실장, 이억원 금융위원장, 이찬진 금융감독원장 등에게 각각의 책임을 물어야 한다”고 했다.
그러면서 “납득할 수 없는 미스터리한 도입 과정, 피해를 키운 늑장 대응, 실효성 없는 땜질식 대응 등 출발부터 결과에 이르기까지 전 과정이 밝혀지고 책임질 사람은 책임져야 한다”며 “과거 민정수석 경험에 기초해 말하자면 이 사태 관련자들에 대한 민정수석실의 감찰이 필요하다”고 했다.
조 원장은 “이재명 정부의 성공을 위해서도 필요한 일”이라며 “집권 민주당이 침묵하고 있기에 레드팀 입장에서 분명히 말한다”고 했다. 그는 “정부는 코스피 5000시대를 목표로 내걸었던 초심으로 돌아가야 한다”며 “주식시장이 카지노가 돼선 안 된다”고 했다.
카카오가 광고와 금융 사업의 성장세로 분기 기준 사상 최대 실적을 냈다. 카카오는 향후 쿠팡이츠와 협력해 배달 분야 인공지능(AI) 사업을 추진한다는 구상도 내놨다.
카카오는 2분기 연결 기준 매출 2조985억원, 영업이익 2770억원을 기록했다고 6일 밝혔다. 지난해 같은 기간보다 매출은 9.4%, 영업이익은 35.9% 늘어 모두 분기 기준 최대치다. 영업이익률도 13.2%로 지난해보다 2.6%포인트 높아졌다.
플랫폼 부문이 실적을 끌어올렸다. 플랫폼 매출은 1조2303억원으로 16.6% 증가했다.
톡비즈 매출은 6432억원으로 12.3% 증가했다. 금융권 광고주 수요를 바탕으로 기업이 보내는 알림 성격의 비즈니스 메시지 매출이 20% 늘었고, 카카오톡 화면을 활용한 디스플레이 광고는 신규 상품 효과까지 더해져 28% 성장했다. 카카오톡 선물하기·톡딜 등 커머스 매출도 2432억원으로 지난해보다 10.0% 증가했다.
모빌리티·페이가 포함된 ‘플랫폼 기타’ 매출은 21.7% 늘어난 5870억원을 기록했다. 카카오모빌리티는 퀵·배송 등 물류 사업이 매출 확대에 기여했다. 카카오페이도 증권·보험 등 금융 서비스 매출 증가에 더해 결제 서비스 부문도 두 자릿수 성장해 분기 기준 최대 매출을 올렸다.
반면 콘텐츠 부문은 8682억원으로 0.7% 느는 데 그쳤다. 일본 만화 플랫폼 픽코마의 이용자 유입이 둔화하면서 스토리 매출이 15.8% 줄었다.
당기순이익은 180억원으로 90% 넘게 감소했다. 카카오게임즈 등 지분 매각에 따른 중단영업손실(1808억원)과 법인세 비용 등이 반영된 영향이다.
챗GPT와 카카오톡을 연동한 ‘챗GPT 포 카카오’의 2분기 누적 가입자가 약 1300만명 수준으로 집계됐다. 1분기 대비 200만명가량 가입자가 늘었다.
정신아 카카오 대표는 이날 “첫 번째로 카카오의 에이전트 AI에 연동될 분야는 음식 배달이며, 쿠팡이츠와 AI 파트너십을 추진할 것”이라고 밝혔다. AI가 대화 맥락에서 주문 의도를 읽어 메뉴를 제안하면, 이용자가 별도 앱으로 옮기지 않고 카카오톡 채팅방 안에서 주문과 결제까지 끝내는 방식이다.
앞서 선물하기 등 내부 서비스 고도화에 집중해온 카카오톡이 외부 대형 사업자와 본격적으로 협업에 나선 것이다. 카카오톡을 여러 사업자의 서비스를 이어주는 ‘실행 창구’로 바꾸겠다는 구상으로 보인다. 카카오는 이후에도 커머스·예약·여행·결제처럼 이용 빈도가 높은 영역의 파트너를 늘려나갈 계획이다.

안산이혼전문변호사
폰테크당일
BYD 씨라이언7 장기렌트
청주이혼전문변호사
수원피부과
용인성범죄변호사
의정부성범죄전문변호사
서울성범죄전문변호사
용인성추행변호사
장기렌트카리스
피망포커머니시세
용인음주운전변호사
의정부성범죄전문변호사
의정부형사전문변호사
안산학교폭력변호사
서초이혼전문변호사
네이버 웹사이트 상위노출
남양주이혼전문변호사
강남상간소송변호사
이혼변호사
동작하수구막힘
대전개인회생
도봉구하수구막힘
K5 장기렌트
폰테크
부산휴대폰성지
피망포커머니
폰테크