Intro

Creating a general-purpose robot has been a longstanding dream of the robotics community.

背景

当前想要实现这一目标的系统脆弱、封闭，并且在遇到未见过的情况时会失败。即使是最大的机器人模型通常也只能部署在以前见过的环境中 [5, 6]。在机器人数据很少的环境中，例如在非结构化的家庭环境中，这些系统的脆弱性会进一步加剧。

虽然大型视觉模型显示出语义理解 、检测以及将视觉表示与语言联系起来的能力并且与此同时，机器人的导航、抓取和重新排列等基本机器人技能已经相当成熟。
但是将现代视觉模型与机器人特定基元相结合的机器人系统表现非常差。

这可能是因为单纯将多个不确定性的系统组合在一起会导致准确率急剧恶化。
所以我们需要一个将VLM和机器人primitives(导航，抓取，放置)结合在一起的细致框架，即OK-Robot。

发现

• 预训练的 VLM 对于开放词汇导航非常有效: 当前的开放词汇视觉语言模型，例如 CLIP 或 OWL-ViT，在识别现实世界中的任意对象方面提供了强大的性能，并能够以零样本的方式导航到它们。
• 预训练的抓取模型可以直接应用于移动操作：与 VLM 类似，经过大量数据预训练的专用机器人模型可以立即应用于家庭中的开放词汇抓取。这些机器人模型不需要任何额外的训练或微调。
• 如何组合组件至关重要：给定预训练模型，我们发现可以使用简单的状态机模型将它们组合在一起，无需训练。我们还发现，使用启发式方法来抵消机器人的物理限制可以在现实世界中获得更高的成功率。
• 仍然存在一些挑战：虽然，考虑到在任意家庭中进行零样本的巨大挑战，OK-Robot 在之前的工作基础上进行了改进，通过分析故障模式，我们发现 VLM、机器人模型和机器人形态可以进行重大改进，这将直接提高开放知识操纵代理的性能。

Methodology

该框架主要完成的任务

Pick up A (from B) and drop it on/in C”, where A is an object and B and C are places in a real-world environment such as homes

Open-home, open-vocabulary object navigation

负责空间重建，识别物体大致位置，机器人导航
用到的方法:

• CLIP-Fields [[CLIP-Fields- Weakly Supervised Semantic Fields for Robotic Memory]] : a RGB-D video of the home -> a sequence of posed ( with camera pose and positions) RGB-D images，用于重建环境，该研究还基于此获取了环境中物体和容器旁边的地板表面。
• OWL-ViT [[Simple Open-Vocabulary Object Detection with Vision Transformers]] : 我们在每一帧上应用检测器，并提取每个对象边界框、CLIP-embedding、检测器置信度，并将这些信息传递到object memory模块中
• SAM: 用于将ViT的检测框转化为mask
• VoxcelMap: similar to object-centric memory of CLIP-Fields [[CLIP-Fields- Weakly Supervised Semantic Fields for Robotic Memory]], 基于点云中每一个点的CLIP semantic vector,每一个5cm的体素都包含一个CLIP-embedding的detector-confidence weighted average.
• Querying the memory module: 先将language query 转化成CLIP semantic vector,然后基于voxelmap的clip-embeding，寻找最语义接近的那个voxel，以此定位。
• 

Experiment

和我的想法非常相近，完成度也很高啊喂。可以参考他的实现思路，引用的文章等等。

## Intro

Intro

数字孪生(DT)作为现实世界非常精确的映射虽然可以用于高精度的训练但是生产DT资产过于繁琐且没有泛化性，不能做到zero-shot。
数字表亲(DC)通过比对模型特征，从模型库中选择类似的表亲模型，用于重建场景训练机械臂。让机械臂针对不同第一次见的场景具有泛化性。
（a）它减少了手动微调的需要，以保证一定的保真度，从而能够完全自动化地创建数字表亲，（b）它通过提供一组增强的场景来训练机器人策略，从而有助于更好地应对原始场景中的变化。

Methodology

ACDC is our automated pipeline for generating fully interactive simulated scenes from a single RGB image, and is broken down into three steps:
(1) an extraction step, in which relevant object masks are extracted from the raw input image
(2) a matching step, in which we select digital cousins for individual objects extracted from the original scene
(3) a generation step, in which the selected digital cousins are post-processed and compiled together to form a fully-interactive, physically-plausible digital cousin scene.

https://ar2d2.site/

背景

机器人执行任务的视频数据集非常重要，特别是对于Visual Imitation Learning来说。
想要获得这些训练集视频，传统的方法是人工引导机器人做相关动作，然后再录制，耗费大量人力和时间成本，最关键的是机器人是固定在实验室内的，能接触到的物品和任务比较有限，因此这些训练数据中不包含更日常的场景。

Solution

提出了一个IOS APP，可以通过追踪用户手部的动作在视频中生成一个执行动作的AR机器人。

AR2-D2 系统细节

如上图，AR2-D2 的设计和实现由两个主要组件组成。第一个组件是一个手机应用程序，它将 AR 机器人投射到现实世界中，允许用户与物理对象和 AR 机器人进行交互。第二个组件将收集的视频转换为可用于训练不同行为克隆代理的格式，这些克隆代理随后可以部署在真实的机器人上。

IOS Application

Unity + AR Foundation kit（用于生成一个虚拟机械臂并布置在场景中）
传感器：苹果设备摄像头和自带的LiDAR
通过ios自己的人手姿态算法和深度信息获取手部动作，由此获取机械臂需要运动到的关键点，并且可以让AR界面中的机械臂移动到指定位置。

Training Data Generation

得到APP生成的视频后消除人手并填补消除的区域（E2FGVI），就可以得到机械臂操作物体的视频，它可以用作基于视觉的模仿学习的训练数据。

APP Evaluation

Real Deployment Evaluation

围绕三个常见的机器人任务收集演示：{press, push, pick up}

使用 Perciver-Actor (PERACT)训练基于 Transformer 的语言引导行为cloning policy

PERACT takes a 3D voxel observation and a language goal (v, l) as input and produces discretized outputs for translation, rotation, and gripper state of the end-effector. These outputs, coupled with a motion planner, enable the execution of the task specified by the language goal.

每一个agent执行一种任务（{press, push, pick up}），先训练3k次，然后再微调训练（3k iteration），用于缩小iphone摄像机和agent使用的kinect v2相机之间的偏差。

微调结果

测试结果

和我毕设很像的工作，居然已经发ICRA了？

概要

虽然近些年有关AR在人机交互方面应用的研究有很多，但是这些研究大都缺少系统性的分析

Recently, an increasing number of studies in HCI, HRI, and robotics have demonstrated how AR enables better interactions between people and robots. However, often research remains focused on individual explorations and key design strategies, and research questions are rarely analyzed systematically.

本文主要给目前AR人机交互领域做一下分类（基于460篇文章）
AR人机交互主要分为这几种研究维度

• approaches to augmenting reality
• characteristics of robots
• purposes and benefits
• classification of presented information
• design components and strategies for visual augmentation
• interaction techniques and modalities
• application domains
• evaluation strategies

AR最大的优势就是能够提供超出物理限制的丰富视觉反馈，减少工人的认知负荷
这个研究最终的目标是提供一个对于该领域的共同基础和理解。

Definition, Scope, Contribution, Methodology

HRI & Robotic Interfaces

机器人系统不单指传统工业机器人，在本研究中，我们不局限于任一种机器人。
Robotic interfaces 主要指”Interfaces that use robots or other actuated systems as medium for HCI”.

Contribution

该研究通过design space dimensions来呈现该领域的分类
拓宽了HCI和HRI的文献研究
讨论了促进该领域进一步研究的开放性研究问题和机会
有一个交互式网站 https://ilab.ucalgary.ca/ar-and-robotics/

分类

Approaches to augmenting reality

根据增强现实硬件的布置位置（dimension 1），可以分为

• on-body
• on-environment
• on-robot
  根据视觉增强的目标位置（dimension 2），可以分为
• augmenting robots
• augmenting surroundings

Characteristics of robots

1. the form factor of robots （机器人类型）
2. the relationship between the users and robots （n:m）
3. size and scale of the robots
4. proximity for interactions (交互距离)

Purposes and benefits

1. Facilitate Programming （类似毕设）
   • 在虚拟3D空间中编辑，可视化路径
   • 通过物体识别把现实物体映射到虚拟空间用于抓取
2. Support Real-time Control and Navigation
3. Improve Safety （类似毕设中的碰撞检测急停）
4. Communicate Intent （绘制机器人的意向轨迹）
5. Increase the Expressiveness （机器人的虚拟义体）

Classification of presented information

1. robot’s internal information
   1. robot’s internal status
   2. robot’s software and hardware condition
   3. robot’s internal functionality and capability
2. external information about the environment
   1. sensor data from the internal or external sensors
   2. camera or video feed
   3. information about external objects
   4. depth map or 3D reconstructed scene of the environment (就是hololens的环境感知网格)
3. plan and activity
   1. a plan of the robot’s motion and behavior
   2. simulation results of the programmed behavior
   3. visualization of a target and goal
   4. progress of the current task
4. supplemental content

Design components and strategies for visual augmentation

这篇主要讨论呈现AR内容的方式

1. UIs and Widgets
   1. Menus
   2. Information Panels
   3. Labels and Annotations
   4. Controls and Handles
   5. Monitors and Displays
2. Spatial References and Visualizations (将空间3D图像叠加显示到现实空间中)
   1. Points and Locations
   2. Paths and Trajectories
   3. Areas and Boundaries
   4. Other Visualizations（比如空间颜色/热图可视化）
3. Embedded Visual Effects （相较于Spatial References and Visualizations，不需要包含数据信息）
   1. anthropomorphic effects
   2. virtual replica
   3. texture mapping of physical objects
4. Anthropomorphic Effects (机器人的社交拟人内容（谁来给增强一下社交拟人功能）)
5. Virtual Replica and Ghost Effects （虚拟物品）
6. Texture Mapping Effects based on Shape (例如给衣服换个图案)

Interactions

1. Dimension-1. Level of Interactivity
   
2. Dimension-2. Interaction Modalities
   

Application Domains

Evaluation strategies

1. Evaluation through Demonstration (诸如在Seminar,workshop展示功能，示例程序)
2. Technical Evaluation
   1. 延迟测量
   2. 物体跟踪误差
   3. 成功率
   4. 与其他系统的对比（tracking system for example）
3. User Evaluation（通过访谈，问卷，通常和前两者结合）

Future

1. 使AR-HR更具实用性
   1. 头戴式AR设备的追踪误差（陀螺仪），可靠性仍需加强
   2. 在户外使用的局限性
2. 对AR HRI的新的设计探索
   1. 可以依靠AR设计不局限于物理限制的机器人
   2. 更好的开发环境（因为目前的AR开发仍然主要使用平面显示器，可以思考有没有基于AR显示做程序设计的应用）
3. AR for better decision making(针对用户)
   1. 可视化场景数据
   2. 可解释性的机器人操作
4. 新颖交互设计
   1. 更自然的交互方式（例如更自然地指定任务对象）
   2. 进一步融合虚拟和物理世界（让虚拟的交互能影响现实物理（经典最扯的放最后））