第8章 多媒体应用的新技术 · 逐节精读单
《多媒体应用设计师教程(第2版)》p180-203 · 约 24 页 · 四大新技术:信息可视化+人机交互+VR+AR;教材提示真题尚未考、预测方向明确
📐 建议用时:3 天(阶段② 单元C 前段,9/28-10/4 区间完成)
📦 主线:可视化→人机交互→VR→AR→MR
📖 电子版定位:md 文件行号 4583-5058
主线这一章在回答什么
新技术四连问:①信息怎么可视化(让海量数据"看得懂")?②人和机器怎么自然交互(立体显示/手势/肢体)?③VR 虚拟现实是什么、怎么分类(沉浸/交互/想象三I)?④AR 增强现实怎么做(虚实结合四技术+四流程)?教材 8.5 提示:历年真题尚未考本部分,但软考模块化命题,系统分析师/嵌入式同源,例题 3 道全考 AR/MR。
① 信息可视化
两大基础+七类
四显示技术
② 人机交互
HMD/裸眼3D
手势/数据手套/Kinect
③ 虚拟现实 VR
三I特征+组成
四分类+关键技术
④ 增强现实 AR
四关键技术+四流程
AR/AV/MR 连续体
✅ 学完本章能一句话讲清:"可视化靠整体+细节/Focus+Context 等四技术呈现数据;人机交互从键鼠走向立体显示、手势、肢体自然交互;VR 用三I(沉浸/交互/想象)构造虚拟世界、分桌面/沉浸/增强/分布式四类;AR 是把虚拟叠加到真实世界(虚实结合+实时交互+三维注册),混合现实 MR 则把物理世界彻底比特化。"
逐节精读清单(3 天切片)
本章概念密集但逻辑清晰,抓"分类+流程+数字"三样。括号内为电子版 md 行号。
Day 1 · 信息可视化技术(p180-183,约 70 分钟)
8.1 信息可视化(概念/模型/方法/显示技术/应用)p180-183 · md 4583-4664★★
问题:可视化靠什么实现?信息怎么分类?四种显示技术各有什么特点?
1概念:把非具体数据以人机交互方式表达;两大基础=认知心理学(人类感知理论)+图形设计(艺术表现)。
2参考模型:原始数据→数据变换→数据列表→可视映射→结构视图→视图变换→显示模式(三级变换)。
3按信息源分七类:一维(直线信息,字体大小/颜色表达)、二维(双属性集合,关键=两属性关系)、三维、多维(多元素集合,关键=降维,例:检索结果可视化=作者/刊物/引用/时间)、时序、层次、网状(点对点)。
4映射技术:PFNET(寻径网络,数据经验属性+分层归纳)。
🖥 信息可视化四显示技术(必背):
① 整体+细节(Overview+Detail):整体视图把握位置+细节视图定位(Card 提出);劣势=两视图间反复切换耗时;
② Focus+Context:受鱼眼视图启发,中心放大(值域扩大)、边缘缩小,同时见整体与细节;
③ 平移+缩放(Panning+Zooming):Furnas/Bederson 20世纪90年代提出,比例尺为交互手段,缩放含语义内容;弱点=无法提供上下文位置信息;
④ 双曲树(Hyperbolic Tree):Lamping/Rao 基于双曲几何,用鱼眼过渡,适用大型层次结构;弱点=节点移中心时难辨父子关系。
检验:默写四显示技术名+各一句话特点;说出可视化两大基础。
📖 教材图8.1 信息可视化参考模型
Day 2 · 人机交互 + VR 基础(p183-193,约 100 分钟)
8.2 人机交互(立体显示/手势/肢体)p183-187 · md 4665-4720★★
问题:立体显示分几类?手势怎么识别?肢体交互设备怎么工作?
1立体显示:两特征=以人为中心+三维空间交互;原理=左右眼视差(18世纪发现);四类=眼镜式3D(低成本、影院主流)、头戴式HMD(VR主要显示方式;部件=显示屏+处理器+追踪传感器;帧率须60Hz以上,TimeWarp/动态分辨率提帧率;高分辨率解决"纱窗效应")、裸眼3D(光屏障式〔光栅屏蔽〕vs 柱状透镜式〔透镜阵列分光,分辨率亮度好,大多数产品选用〕〕;多幅视差图像合成=多视点技术)、全息投影(研究初期)。
2手势识别:静态(单帧姿势特征比对,较容易)vs 动态(轨迹+形状变化,机器学习训练);硬件=单目(简单背景)/双目(三维定位);LeapMotion 2013年=双目经典(2摄像头+3红外LED、25-600mm 倒四棱锥空间、精度0.1mm)。
3数据手套四产品:5DT(纤维光学弯曲检测、无力反馈、权威品牌)、CyberGlove(带力反馈)、Measurand(外置韧性条带、测拇指食指弯曲+手掌手臂位置)、Dexmo(外骨骼、弯曲+力反馈、便宜)。
4肢体交互 NUI:Kinect 1.0=LightCoding结构光(激光散斑);2.0=TOF(正弦激光相位差);识别距离 1.0=0.8-4.0m、2.0=0.5-4.5m;动作识别算法:模板匹配(欧式/马氏距离/动态时间规整;缺点=关键姿势长度须与模板相同)、概率统计(HMM/DBN,需训练)、语义分析(语法)、状态链(简单高效)。
| 易错说法 | 正解 |
| "裸眼3D 已成熟商用" | 裸眼3D 是"下一代理想显示";全息投影尚处研究初期 |
| "数据手套无力反馈的是 Dexmo" | 无力反馈的是 5DT(Dexmo 是外骨骼、带力反馈、便宜) |
| "Kinect 1.0 是 TOF" | Kinect 1.0=结构光(LightCoding)、2.0 才是 TOF |
检验:说出裸眼3D 两原理+LeapMotion/Kinect 数字+数据手套四产品一句话。
8.3.1-8.3.3 VR 概念/组成/关键技术p187-193 · md 4721-4838★★★
问题:VR 是什么?三I 指什么?系统怎么组成?三大关键技术?
🥽 VR 核心(必背):
① 产生于20世纪60年代,名词由美国 VPL 公司创始人拉尼尔(Jaron Lanier) 20世纪80年代初提出,也称"灵境技术";最早源于美国军方作战模拟系统;
② 三特征"三I"=沉浸感 Immersion + 交互性 Interaction + 想象力 Imagination(沉浸+交互是判定关键特征);系统组成六模块=检测、反馈、传感器、控制、3D模型库、建模。
1定义:狭义=自然人机界面;广义=对虚拟想象/真实三维世界的模拟;多感知 Multi-Sensation(视听触力运动+嗅觉味觉)。
2传感装置:视觉=HMD(Eyephone,透过型/非透过型)、听觉=三维音响、手动=数据手套(DHM 精密/Cyberglove)、力反馈=触觉传感器(Grope)、身体=数据衣、语音识别合成。
3VR vs 计算机仿真 CS:CS 多感知以视听为主、用户是旁观者(可视场景不随视点变)、不强调实时交互。
4三大关键技术:实物虚化(现实→虚拟映射:基本模型构建/空间跟踪/声音定位/视觉跟踪/视点感应)、虚物实化(虚拟→真实信号:力反馈手套/操纵杆,触觉基于视觉/气压感/振动触感/电子触感/神经肌肉模拟)、高性能计算处理(含声音跟踪=时间差/相位差/声压差)。
检验:默写三I+六模块+三大关键技术;区分 VR/CS 三差异。
📖 教材图8.2 虚拟现实技术的交互特性
📖 教材图8.3 虚拟现实技术特征
Day 3 · VR 分类 + AR + 例题(p193-203,约 90 分钟)
8.3.4-8.3.6 VR 四分类/研究对象/趋势p193-198 · md 4839-4968★★★
问题:VR 系统分几类?各有什么代表?
🎮 VR 四分类(必背):
① 桌面型 Desktop VR:屏幕为窗口、成本低、研究必经阶段;三种=360°全景(静态图像拼接)、Web 3D(描述性文本语言)、桌面CAD(OpenGL/Direct3D);
② 沉浸型 Immersive VR:头盔+数据手套、视听隔离、设备贵;三种=完全沉浸(CAVE 洞穴)、座舱(最古老模拟器)、远程存在(立体显示器+两台摄像机);
③ 增强现实型:增强对真实环境的感受(典型=飞行员平视显示器 HUD);
④ 分布式 Distributed VR:异地用户共享虚拟空间(Internet+高速专用网;起源 MUD、VRML;美国军方 JSIMS;1983 美国陆军虚拟环境研究计划)。
1六大研究对象:表示准确性/感知合成真实性/交互自然性/实时显示(景物复杂度问题)/图形生成(瓶颈)/人工智能。
21993 年 Helsel&Doherty 805 项统计:娱乐教育艺术 21.4%、军事航空 12.7%、医学 6.13%、机器人 6.21%、商业 4.96%。
3应用:医学(虚拟外科手术训练器 Pieper)、娱乐教育(芝加哥世界第一台VR娱乐系统、1992 LegealQust 获VR产品奖)、军事航天(DARPA SIMNET 可联 200 多台模拟器)、管理工程。
4国际:美国水平最高、英国分布式并行处理领先、德国 FhG-IGD、日本大规模VR知识库(硬件从美国进口);我国始于 90 年代初、973 项目重中之重。
5五大趋势:动态环境建模/实时三维图形生成显示/新型交互设备/智能化语音建模/分布式VR。
检验:默写四分类+每类代表;说出六大研究对象与五大趋势。
8.4 增强现实技术 AR(概念/关键技术/流程/与VR区别)p199-203 · md 4969-5057★★★
问题:AR 是什么?怎么做?和 VR 什么关系?
🔍 AR 核心(必背):
① AR 是 VR 的重要分支;最早由波音公司 Tom Cauden 提出;Ronald Azuma 定义=虚实结合、实时交互、三维注册;
② 四关键技术=显示技术(最基础,虚拟与真实融合)、跟踪注册技术(注册=准确定位虚拟物体;跟踪=实时检测摄像头位置角度;方法=硬件设备+视频处理)、虚实融合技术(获取光照反射信息)、人机交互技术;
③ 四实现流程=①捕获真实场景 ②分析真实场景和相机位置信息 ③生成虚拟对象 ④合并图像流生成虚拟融合场景。
1VR vs AR:VR 完全替代真实世界(沉浸);AR 是对现实世界的补充(虚拟叠加到真实);AR 对硬件要求更高,但有更高注册精度和真实感。
2Milgram 连续体(按计算机生成信息比例):合成对象融入图像场景=增强现实 AR;图像对象融入合成场景=增强虚拟 AV;两者进一步混合=混合现实 MR(范围宽泛,AR 侧重实时方法研究)。
3增强现实制作流程(8.3.4 增强现实型):各种角度图像→插补缺损→合成成品。
| 易错说法 | 正解 |
| "AR 流程第三步生成真实对象" | 例题8.2 陷阱:第三步是生成虚拟对象,选项写成"真实对象"→错 |
| "MR 只是 AR 的别名" | MR 是把物理世界"实时彻底比特化"且兼备 VR+AR 功能 |
检验:默写 AR 四技术+四流程;用一句话区分 VR/AR/AV/MR。
📖 教材图8.6 Milgram 的 VR 和 AR 的关系诠释图
8.5 例题与分析(3 道选择题)p203 · md 5013-5057★★★
问题:本章预测方向怎么考?
1例题8.1:"将合成的感觉信息融合进用户对真实世界的感知中、不隔离真实场景、附加图形文字动态增强"=增强现实技术→答案 B。
2例题8.2:AR 实现流程四步骤中不包括"生成真实对象"(应为生成虚拟对象)→答案 C。
3例题8.3:"将物理世界实时彻底比特化、兼备 VR 和 AR 设备功能"=混合现实→答案 C。
检验:先独立做再对答案;3 题全对;把"VR替代世界/AR叠加现实/MR比特化"写进错题本一句话。
对接如何挂进四阶段闭环
③ 输出:刷一页掌握 K8 练习模式;"VR/AR/MR 一句话辨析+三I+四分类"每日默写;例题 8.1-8.3 先做后看并讲一遍。
④ 巩固:Day1-3 学完后第 1、3、7 天复习;本章与第5章立体显示(眼镜式/裸眼)、第15章 VRML 前后呼应,学完可串读对照。
⟲ 反馈环:可视化技术记混 → 回 8.1 大表;数据手套/Kinect 数字乱 → 回 8.2;三I/四分类忘 → 回 8.3;AR 流程错序 → 回 8.4;例题错 → 回 8.5 重做。