멀티모달 로봇 인식

로봇 비전 시스템이 휴머노이드 로봇이 세상을 인식하도록 돕는 방법

카메라는 장면을 포착할 수 있습니다. 사용 가능한 로봇 비전 시스템은 합리적인 행동을 지원하기 전에 해당 장면을 거리, 불확실성, 접촉 및 로봇 자체의 신체 상태와 연결해야 합니다.

Humanoid robot perception system in a robotics laboratory
휴머노이드 인식은 단일 카메라 기능이 아닌 입력 및 결정의 스택입니다.

로봇 비전 시스템은 카메라 이상입니다

휴머노이드 로봇에게 카메라는 인식의 시작일 뿐, 완성된 기능은 아닙니다. 이미지는 캡처되고, 해석되고, 컨텍스트와 결합되어야만 컨트롤러가 응시할지, 반응할지, 손을 뻗을지, 아니면 가만히 있을지 결정할 수 있습니다. 시스템 및 작업에 따라 파이프라인은 컬러 카메라, 깊이 정보, 객체 또는 자세 추정, 인식 모델, 계획 논리 및 신체로부터의 피드백을 포함할 수 있습니다.

이것이 바로 휴머노이드 로봇 비전이라는 문구가 시스템 수준의 설명을 의미하는 이유입니다. 유용한 시스템은 불확실성도 나타내야 합니다. 컵이 부분적으로 가려져 있거나, 반사 표면이 깊이를 혼란스럽게 할 수 있으며, 손이 너무 빨리 프레임에 들어와 단일 이미지로는 질문을 해결할 수 없을 수도 있습니다.

연구 사례이며, 제품 주장이 아닙니다. RT-2 연구 논문은 시각적 관찰, 언어 및 로봇 동작을 연결하는 시각-언어-동작 모델을 탐구합니다. 이는 연구 방향을 보여주는 유용한 예시이지만, 모든 휴머노이드 로봇이 RT-2 또는 이와 동등한 자율 행동을 포함한다는 의미는 아닙니다.

캡처, 해석, 결정, 행동

단계 답변에 도움이 되는 질문 명확히 유지해야 할 경계
캡처 현재 무엇이 보이는가? 카메라 이미지는 아직 장면에 대한 이해가 아닙니다.
해석 어떤 객체, 사람, 표면 또는 제스처가 중요할 수 있는가? 신뢰도가 불완전하거나 틀릴 수 있습니다.
결정 현재 제약 조건에서 어떤 반응이 적절한가? 연구 정책은 자동으로 생산 구성이 되지 않습니다.
행동 및 확인 움직임 또는 상호작용이 상황을 변화시켰는가? 접촉 및 위치를 확인하기 위해 다른 감지 신호가 필요할 수 있습니다.

Open X-Embodiment / RT-X 작업은 또 다른 연구 예시입니다. 이는 로봇 전반에 걸쳐 더 광범위한 데이터와 일반적인 정책을 조사합니다. 이는 분야에 대한 유망한 맥락이지만, 작업별 유효성 검사를 우회하는 지름길은 아닙니다.

시각 정보만으로는 불충분한 이유

카메라 기반 인식에는 실제적인 한계가 있습니다. 가려짐은 물체나 손을 숨길 수 있습니다. 원근법은 거리를 모호하게 만들 수 있습니다. 그리고 매우 선명한 이미지라도 그리퍼가 안정적으로 접촉했는지 또는 관절이 의도한 위치에 도달했는지 직접 확인할 수는 없습니다. 로봇 비전 제어는 다른 질문에 답하는 신호를 참조할 수 있을 때 더 견고해집니다.

  • 촉각은 접촉 시 일어난 일을 파악하는 데 도움이 될 수 있습니다.
  • 근접 센싱은 직접 접촉 전에 신호를 제공할 수 있습니다.
  • 관절 피드백은 신체 부분이 어디에 있고 어떻게 움직이는지 설명할 수 있습니다.
  • 작업 컨텍스트는 적절한 다음 행동이 계속할지, 일시 중지할지, 또는 명확화를 요청할지 결정할 수 있습니다.

이러한 신호들이 오류를 완전히 없애지는 않습니다. 단지 시스템이 행동하기 전에 비교할 더 많은 증거를 제공할 뿐입니다.

촉각 및 근접성: 접촉 주변의 그림을 완성하기

Humanoid robot hand approaching objects in a tactile sensing test
접촉 관련 신호는 카메라가 물체 근처에서 보는 것을 보완할 수 있습니다.

로봇이 물체에 접근할 때, 시각 정보는 장면의 기하학적 형태를 추정할 수 있습니다. 그러나 접촉이 가벼웠는지, 단단했는지, 잘못되었는지, 또는 없었는지 자체적으로 증명할 수는 없습니다. 촉각 시스템에 대한 연구는 압력, 힘 분포 및 재료 관련 단서와 같은 신호가 어떻게 함께 표현될 수 있는지 탐구합니다. 다중 매개변수 전자 피부 연구는 이 연구 방향의 한 예시입니다.

이러한 구분은 제품 자료를 읽을 때 중요합니다. 연구 결과는 특정 상업용 휴머노이드가 논문에 설명된 모든 센서, 성능 수준 또는 통합 방법을 포함한다는 것을 입증하지 않고도 감지 접근 방식을 보여줄 수 있습니다. 촉각의 상호작용 역할에 대한 더 넓은 소개는 촉각이 로봇 상호작용을 어떻게 변화시키는지를 참조하십시오.

관절 피드백 및 동작: 신체 위치 알기

Humanoid robot joint structure in a controlled robotics test room
시각 정보는 장면을 설명하고, 신체 상태 피드백은 장면을 로봇의 움직임과 연결하는 데 도움이 됩니다.

고유수용성 또는 관절 상태라는 용어로 자주 논의되는 관절 피드백은 로봇 자신의 구성 및 움직임에 대한 정보입니다. 휴머노이드에서 이는 컨트롤러가 보이는 대상을 머리, 팔 또는 손의 현재 자세와 연결하는 데 도움이 될 수 있습니다. 이는 로봇이 특정 액추에이터, 토크 등급, 자유도 수 또는 균형 유지 능력을 가지고 있다고 말하는 것과는 다릅니다.

Walker3 고유수용성-작동 연구는 연구에서 세부 사항이 중요한 이유를 보여줍니다. 실시간 제어 및 관절 마찰은 동적 균형 문제의 일부로 다루어졌습니다. 따라서 적절한 상업적 질문은 단순히 "관절 피드백이 있는가?"가 아니라 "이 구성된 작업을 위해 어떤 신체 상태 정보를 사용할 수 있으며, 어떻게 사용되는가?"입니다.

냄새 및 분자 센싱은 어떠한가?

Research sensor module for future multimodal robot perception
연구는 이미지와 물리적 접촉을 넘어선 인식을 확장하고 있지만, 이러한 방향은 신중한 범위 설정이 필요합니다.

환경 및 분자 센싱은 특정 미래 응용 분야에서 로봇의 입력을 확장할 수 있습니다. 이는 표준 휴머노이드 기능이 아닙니다. 예를 들어, 고속 전자 코 연구는 짧은 냄새 펄스를 분류하기 위한 연구 프로토타입을 보고합니다. 이는 Warmcore 로봇이 냄새 인식, 안전 감지 또는 전자 코 모듈을 제공한다는 증거가 아니라 제한된 연구 사례로 읽어야 합니다.

휴머노이드 인식 스택 평가 시 질문 사항

  1. 무엇이 직접 감지되는가? 구성에 실제로 어떤 입력이 존재하는지 질문하십시오.
  2. 무엇이 추론되는가? 카메라 캡처를 인식 모델 출력 및 다운스트림 제어 결정과 분리하십시오.
  3. 무엇이 구성 가능한가? 프로젝트와 관련된 특정 소프트웨어, 상호작용 및 데이터 처리 옵션을 확인하십시오.
  4. 무엇이 연구 방향인가? 논문, 프로토타입 또는 로드맵을 제공된 기능으로 간주하지 마십시오.
  5. 개인 정보는 어떻게 처리되는가? 의도된 환경에 대해 카메라, 메모리 및 접근 설정이 어떻게 관리되는지 질문하십시오.

상호작용 요구 사항부터 시작하십시오

Warmcore는 구성이 사용 가능하다고 표시되기 전에 의도된 상호작용 시나리오와 중요한 질문에 대해 논의할 수 있습니다. AI 동반 로봇 기능을 검토하고, 진산 AI 동반 로봇을 탐색하거나, 로봇 구성 질문을 저희 팀에 문의하십시오.

요구 사항 논의

자주 묻는 질문

로봇 비전 시스템이란 무엇인가요?

로봇 비전 시스템은 이미지 캡처를 해석 및 의사결정 프로세스와 결합하여 로봇이 환경에 반응하도록 돕습니다. 작업에 따라 깊이, 신체 상태 및 접촉 관련 정보도 사용할 수 있습니다.

휴머노이드 로봇은 왜 카메라 이상의 것이 필요한가요?

카메라는 가려짐, 원근감, 불확실한 깊이에 영향을 받을 수 있습니다. 또한 접촉이나 신체 위치를 직접 확인하지 못하므로 다른 신호가 시각 정보를 보완할 수 있습니다.

로봇의 관절 피드백이란 무엇인가요?

관절 피드백은 로봇 자신의 구성 또는 움직임에 대한 정보입니다. 이는 원하는 움직임을 로봇의 현재 신체 상태와 연결하는 데 도움이 됩니다. 정확한 신호와 기능은 특정 시스템에 따라 다릅니다.

냄새 감지 및 분자 감지는 표준 휴머노이드 로봇 기능인가요?

아니요. 이들은 활발한 연구 영역이며 일부 애플리케이션에 적합할 수 있지만, 휴머노이드 로봇의 표준 기능이라고 가정해서는 안 됩니다.

연구 자료

당신이 좋아할 수도 있습니다