바둑이게임20171202,IT과학,아시아경제,AI도 속임 당한다…이미지 인식 보안 취약점 노출,교통표지판에 스티커 붙이면 멈춤 을 속도 제한 으로 오인 AI자율주행차 심각한 위험 노출 멈춤 STOP 표지판에 정교한 스티커를 붙였더니 AI 이미지 인식 모델은 이를 속도 제한 으로 오인하는 사례가 발생했다. 이미지 인식기술을 갖춘 자율주행차 인공지능 AI 이 멈춤 표지판을 속도 제한 으로 잘못 인식하기라도 한다면. 이같은 위험이 현실화할 수 있다는 우려가 커지고 있다. 일부러 이미지를 왜곡하거나 노이즈를 추가해 AI가 잘못된 판단을 하도록 속임 공격이 가능한 것으로 나타났다. 2일 정보통신기술진흥센터 IITP 는 주간기술동향 보고서에서 AI가 판단을 잘못하면 큰 사고를 일으킬 수 있기 때문에 구글이 AI의 신뢰성 훼손 시도에 대한 대응책 마련에 나섰다 고 전했다. 구글은 딥러닝을 이용해 AI의 이미지 인식 기술을 고도화하고 있다. 이를 자율주행차에 적용하게 되면 자율주행차가 멈춤 저속 운행 차선 바꿈 등의 표지판 정보를 인식할 수 있게 된다. AI가 인식 방법을 습득하기 위해서는 주어진 데이터로부터 규칙을 도출하기 위해 신경망 훈련을 거친다. 그런데 이때 사용되는 데이터에 잘못된 것을 섞거나 데이터에 일종의 노이즈를 추가함으로써 AI에 오류를 발생시킬 수 있는 것으로 밝혀졌다. 이미지 인식 기술에 대한 대표적인 공격방법은 적대적 사례 Adversarial Example 기법이다. 이미지 인식 모델에 인식시키는 데이터에 일종의 노이즈를 추가함으로써 이미지의 피사체를 오인시키는 공격 방법이다. 사람의 눈이라면 고양이 사진에 낙서가 돼 있다고 해서 사진 속 피사체를 고양이가 아닌 것 으로 인식하지는 않는다. 사람은 노이즈가 있든없든 고양이는 고양이로 인식한다. 반면 AI는 다르다. AI의 이미지 인식 모델에서는 전혀 다른 이미지로 비춰진다고 한다. 워싱턴 대학의 이반 에브티모프는 지난 7월 한 실험 결과를 발표했다. 교통 표지판에 정교하게 만든 스티커를 붙여 넣었더니 이미지 인식 모델이 완전히 속아넘어갔다. 정지 표지판을 속도 제한 표지판으로 잘못 인식한 것이다. 딥러닝 이미지 인식 기술 개념도 또 다른 공격 방법으로는 교사 데이터 독살 Training Set Poisoning 이 있다. 이미지 인식 모델의 개발과정에서는 일반적으로 인간이 식별한 피사체 정보의 태그가 붙은 교사 데이터 Training set 를 사용한다. 이 교사 데이터에 잘못된 태그를 부여한 이미지를 섞음으로써 피사체를 잘못 인식하는 이미지 모델이 만들어지도록 하는 공격기법이다. 이때 악의적으로 입력되는 이미지 데이터에는 잘못된 태그가 붙여질 뿐만 아니라 이미지 인식 모델을 속이기 위한 노이즈도 함께 부여된다. 구글의 AI 연구부문인 구글 브레인의 이언 굿펠로우는 앞으로 AI를 어떻게 방어할 것인가가 큰 과제가 될 것 이라면서 구글은 AI의 신뢰성 확보를 위해 대책 마련에 나설 것 이라고 밝혔다. IITP는 딥러닝은 최근 빠르게 성장하고 있는 기법인 만큼 보안 측면의 연구가 딥러닝 보급 속도를 따라잡지 못할 우려가 있다 면서 딥러닝과 관련된 소프트웨어 개발자는 보안 정보 수집 및 대책에 미비점이 없는지 다시 한번 확인해볼 필요가 있다 고 밝혔다.현금바둑이게임20171201,경제,뉴시스,티웨이항에어서비스 인재 채용 나서,서울 뉴시스 김동현 기자 티웨이항공의 자회사인 티웨이에어서비스 가 인재 채용에 나선다. 티웨이항공은 1일부터 티웨이항공 채용 홈페이지를 통해 자회사인 티웨이에어서비스 예약센터 업무 담당자를 모집한다고 밝혔다. 예약센터는 전화를 통한 예약 업무 여정 변경 부가 서비스 신청 등 고객과의 접점에서 서비스가 이뤄지는 곳이다. 티웨이에어서비스 의 예약센터는 내년 1월 1일부터 본격적인 업무를 수행할 예정이다. 고혁 티웨이에어서비스 대표는 더욱 안정적인 서비스 제공을 통해 고객분들의 사랑에 보답하고자 한다 며 티웨이에어서비스와 함께 할 능력 있는 인재들의 많은 지원을 바란다 고 밝혔다.사설바둑이20171204,IT과학,연합뉴스,2017 과학기술 국회공로장 시상식 및 정책토론회 개최,서울 연합뉴스 정세균 국회의장이 4일 오후 국회도서관에서 열린 2017 과학기술 국회공로장 시상식 및 정책토론회 에서 참석자들과 기념촬영을 하고 있다.