[주간기술동향 2191호] 물리적 인간-로봇 협업 기술 · 생성형 AI 보안 동향

✨ 이 글은 ChatGPT를 활용해 정리한 내용입니다.

 

주간 기술 동향 (2025년 9월 17일자)

이번 주 「주간기술동향」에서는 두 가지 주요 이슈를 다루고 있습니다.
첫 번째는 첨단 로봇 분야의 인간-로봇 협업(HRC) 기술 동향, 두 번째는 생성형 AI 보안 위협과 대응 기술입니다.

---

🤖 인간-로봇 협업(HRC) 기술 동향

로봇은 이제 단순한 산업용 기계를 넘어 가정, 의료, 서비스까지 영역을 넓히고 있습니다.
특히 **협동 로봇(Cobot)**이 등장하면서, 사람과 로봇이 같은 공간에서 함께 작업하는 환경이 빠르게 늘어나고 있죠.

• **HRI(Human-Robot Interaction)**는 크게 두 가지로 나뉩니다.
  • 사회적 상호작용(sHRI): 음성·시각 등을 통한 교류
  • 물리적 상호작용(pHRI): 직접 접촉하며 협력하는 형태

이번 호에서는 특히 pHRI 기반의 HRC(Human-Robot Collaboration) 기술이 주목받았습니다.
단순히 같은 공간을 공유하는 수준을 넘어, 사람과 로봇이 무거운 물체를 함께 들거나 조작하는 협업까지 가능해지고 있습니다.

연구자들이 집중하는 핵심 과제는 다음과 같습니다.

• 물리적 접촉 관리
• 물체 조작
• 환경 회피
• 작업 스케줄 관리 및 적응

최근에는 Q-learning 기반 제어, EMG 센서 활용 의도 파악, 온라인 동적 파라미터 추정 등 다양한 방법으로 “사람의 의도를 이해하는 로봇” 연구가 활발히 진행되고 있습니다.
앞으로는 Physical AI와 결합해 단순 협업을 넘어 감정·정서까지 이해하는 로봇 상호작용으로 발전할 전망입니다.

---

🔒 생성형 AI 보안 위협과 대응 기술

ChatGPT, Claude, Gemini 등 생성형 AI가 급속히 확산하면서 새로운 보안 위협이 등장했습니다.
그중 가장 큰 화두는 바로 **프롬프트 인젝션(Prompt Injection)**입니다.

주요 위협 사례

• 직접 공격: 사용자가 의도적으로 모델 동작을 조작 (예: Bing Chat ‘Sydney’ 시스템 프롬프트 유출)
• 간접 공격: 외부 문서나 웹페이지에 숨겨둔 명령어를 통해 모델을 속임 (예: Morris-II 웜 공격, GitHub Copilot Rules File Backdoor)

프롬프트 인젝션은 단순 장난이 아니라,
👉 민감 정보 유출, 악성 코드 실행, 잘못된 정보 확산으로 이어질 수 있어 매우 치명적입니다.

대응 방안

• 프롬프트 하드닝(prompt hardening): 입력값 유효성 검사
• 출력 검증 & 모델 정렬: RAG 기반 필터링, 보상 학습
• 다층 보안 체계: 데이터 암호화, 샌드박싱, 접근제어, 이상 탐지
• AI 보안 프레임워크 활용: SAIF, AI TRiSM, AI RMF, MITRE ATLAS 등

궁극적으로는 AI 보안을 개발·운영 전 과정에 내재화해야 안전한 생태계를 만들 수 있습니다.

---

✨ 마무리

이번 주 동향은 크게 두 가지 메시지를 줍니다.

• 로봇 분야: 사람과 로봇이 ‘함께’ 일하는 시대가 성큼 다가오고 있다.
• AI 보안 분야: 편리함 뒤에 숨어 있는 위협을 막기 위해 보안 내재화가 필수다.

앞으로는 로봇과 AI 모두 “신뢰”를 확보하는 것이 기술 발전의 핵심 과제가 될 것 같습니다.

---

👉 참고: 정보통신기획평가원(IITP) 「주간기술동향」 2191호 (2025.09.17)