基于屏幕投影的操控装置和方法与流程

本发明涉及通信技术领域，尤其涉及一种基于屏幕投影的操控装置和方法。

背景技术：

无线保真显示(WiFi Display，WFD)技术是一种使得智能手机、笔记本等发送端能够与电视、显示器等接收端无线连接的技术。在通过WFD进行屏幕投影过程中，发送端将本机的屏幕图像作为投影数据持续性的发送给接收端，接收端也持续性的接收投影数据，并在本机的屏幕上再现发送端的屏幕图像。

现有的屏幕投影技术，在发起屏幕投影连接时，需要用户手动设置接收端和发送端，发起方式不够便捷。在屏幕投影过程中，用户需要操控发送端如触摸发送端的屏幕来控制当前运行的应用，进而控制屏幕投影进程。然而，在屏幕投影过程中，用户通常观看着接收端的屏幕或者靠近接收端一侧，因此操控发送端时不够方便快捷，从而影响用户体验。

技术实现要素：

本发明的主要目的在于提出一种基于屏幕投影的操控装置和方法，旨在解决现有技术中屏幕投影操控不够方便快捷的技术问题。

为实现上述目的，本发明提出一种基于屏幕投影的操控装置，所述装置包括：

应用信息获取模块，用于获取发送端当前运行的应用的信息；

操控方案获取模块，用于根据所述应用获取手势操控方案；

控制指令转换模块，用于接收手势指令，根据所述手势操控方案将所述手势指令转换为控制指令并发送给所述发送端，以使所述发送端根据所述控制指令控制所述应用。

进一步地，所述应用信息获取模块用于：在建立屏幕投影连接之前，获取发送端当前运行的应用的信息；

所述装置还包括屏幕投影连接模块，所述屏幕投影连接模块用于：在所述操控方案获取模块获取所述手势操控方案的同时、之前或之后，以接收端的身份向所述发送端发起屏幕投影连接请求，与所述发送端建立屏幕投影连接。

进一步地，所述应用信息获取模块用于：

通过摄像头扫描发送端的屏幕图像，根据所述屏幕图像识别出所述发送端当前运行的应用；或者，

通过近场通信NFC读取所述发送端的屏幕图像，根据所述屏幕图像识别出所述发送端当前运行的应用。

进一步地，所述应用信息获取模块用于：

在建立屏幕投影连接之后，获取屏幕上的投影图像；根据所述投影图像识别出所述发送端运行的应用。

进一步地，所述操控方案获取模块用于：从预置的手势操控方案中选择一个与所述应用相对应的手势操控方案；或者，根据预设规则生成一个与所述应用相对应的手势操控方案。

本发明同时提出一种基于屏幕投影的操控方法，所述方法包括步骤：

获取发送端当前运行的应用的信息；

根据所述应用获取手势操控方案；

接收手势指令，根据所述手势操控方案将所述手势指令转换为控制指令并发送给所述发送端，以使所述发送端根据所述控制指令控制所述应用。

进一步地，所述获取发送端当前运行的应用的信息包括：

在建立屏幕投影连接之前，获取发送端当前运行的应用的信息；

所述根据所述应用获取控制所述应用的手势操控方案的步骤的同时、之前或之后还包括：向所述发送端发起屏幕投影连接请求，以接收端的身份与所述发送端建立屏幕投影连接。

进一步地，所述获取发送端当前运行的应用的信息包括：

通过摄像头扫描发送端的屏幕图像，根据所述屏幕图像识别出所述发送端当前运行的应用；或者，

通过近场通信NFC读取所述发送端的屏幕图像，根据所述屏幕图像识别出所述发送端当前运行的应用。

进一步地，所述获取发送端当前运行的应用的信息包括：

在建立屏幕投影连接之后，获取屏幕上的投影图像；

根据所述投影图像识别出所述发送端当前运行的应用。

进一步地，所述根据所述应用获取手势操控方案包括：

从预置的手势操控方案中选择一个与所述应用相对应的手势操控方案；或者，根据预设规则生成一个与所述应用相对应的手势操控方案。

本发明所提出的一种基于屏幕投影的操控装置，通过于接收端侧接收用户的手势指令，并将手势指令转换为控制指令发送给发送端，以使发送端根据控制指令控制当前运行的应用。从而使得用户可以在接收端侧通过手势动作远程操控发送端，无需直接对发送端进行操控，提高了屏幕投影操控的便捷性，解决了现有技术中屏幕投影操控不够方便快捷的技术问题，并丰富了屏幕投影的操控方式，提升了用户体验。

附图说明

图1为实现本发明各个实施例一个可选的移动终端的硬件结构示意图；

图2为如图1所示的移动终端的无线通信系统示意图；

图3为本发明第一实施例基于屏幕投影的操控方法的流程图；

图4为本发明第二实施例基于屏幕投影的操控方法的流程图；

图5为本发明第三实施例基于屏幕投影的操控方法的流程图；

图6为本发明第四实施例基于屏幕投影的操控装置的模块示意图；

图7为本发明第五实施例基于屏幕投影的操控装置的模块示意图。

本发明目的的实现、功能特点及优点将结合实施例，参照附图做进一步说明。

具体实施方式

应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

现在将参考附图描述实现本发明各个实施例的移动终端。在后续的描述中，使用用于表示元件的诸如“模块”、“部件”或“单元”的后缀仅为了有利于本发明的说明，其本身并没有特定的意义。因此，″模块″与″部件″可以混合地使用。

移动终端可以以各种形式来实施。例如，本发明中描述的终端可以包括诸如移动电话、智能电话、笔记本电脑、数字广播接收器、PDA(个人数字助理)、PAD(平板电脑)、PMP(便携式多媒体播放器)、导航装置等等的移动终端以及诸如数字TV、台式计算机等等的固定终端。下面，假设终端是移动终端。然而，本领域技术人员将理解的是，除了特别用于移动目的的元件之外，根据本发明的实施方式的构造也能够应用于固定类型的终端。

图1为实现本发明各个实施例的一个可选的移动终端的硬件结构示意。

移动终端100可以包括无线通信单元110、A/V(音频/视频)输入单元120、用户输入单元130、感测单元140、输出单元150、存储器160、接口单元170、控制器180和电源单元190等等。图1示出了具有各种组件的移动终端，但是应理解的是，并不要求实施所有示出的组件。可以替代地实施更多或更少的组件。将在下面详细描述移动终端的元件。

无线通信单元110通常包括一个或多个组件，其允许移动终端100与无线通信系统或网络之间的无线电通信。例如，无线通信单元可以包括广播接收模块111、移动通信模块112、无线互联网模块113、短程通信模块114和位置信息模块115中的至少一个。

广播接收模块111经由广播信道从外部广播管理服务器接收广播信号和/或广播相关信息。广播信道可以包括卫星信道和/或地面信道。广播管理服务器可以是生成并发送广播信号和/或广播相关信息的服务器或者接收之前生成的广播信号和/或广播相关信息并且将其发送给终端的服务器。广播信号可以包括TV广播信号、无线电广播信号、数据广播信号等等。而且，广播信号可以进一步包括与TV或无线电广播信号组合的广播信号。广播相关信息也可以经由移动通信网络提供，并且在该情况下，广播相关信息可以由移动通信模块112来接收。广播信号可以以各种形式存在，例如，其可以以数字多媒体广播(DMB)的电子节目指南(EPG)、数字视频广播手持(DVB-H)的电子服务指南(ESG)等等的形式而存在。广播接收模块111可以通过使用各种类型的广播系统接收信号广播。特别地，广播接收模块111可以通过使用诸如多媒体广播-地面(DMB-T)、数字多媒体广播-卫星(DMB-S)、数字视频广播-手持(DVB-H)，前向链路媒体(MediaFLO^@)的数据广播系统、地面数字广播综合服务(ISDB-T)等等的数字广播系统接收数字广播。广播接收模块111可以被构造为适合提供广播信号的各种广播系统以及上述数字广播系统。经由广播接收模块111接收的广播信号和/或广播相关信息可以存储在存储器160(或者其它类型的存储介质)中。

移动通信模块112将无线电信号发送到基站(例如，接入点、节点B等等)、外部终端以及服务器中的至少一个和/或从其接收无线电信号。这样的无线电信号可以包括语音通话信号、视频通话信号、或者根据文本和/或多媒体消息发送和/或接收的各种类型的数据。

无线互联网模块113支持移动终端的无线互联网接入。该模块可以内部或外部地耦接到终端。该模块所涉及的无线互联网接入技术可以包括WLAN(无线LAN)(Wi-Fi)、Wibro(无线宽带)、Wimax(全球微波互联接入)、HSDPA(高速下行链路分组接入)等等。

短程通信模块114是用于支持短程通信的模块。短程通信技术的一些示例包括蓝牙^TM、射频识别(RFID)、红外数据协会(IrDA)、超宽带(UWB)、紫蜂^TM等等。

位置信息模块115是用于检查或获取移动终端的位置信息的模块。位置信息模块的典型示例是GPS(全球定位系统)。根据当前的技术，GPS模块115计算来自三个或更多卫星的距离信息和准确的时间信息并且对于计算的信息应用三角测量法，从而根据经度、纬度和高度准确地计算三维当前位置信息。当前，用于计算位置和时间信息的方法使用三颗卫星并且通过使用另外的一颗卫星校正计算出的位置和时间信息的误差。此外，GPS模块115能够通过实时地连续计算当前位置信息来计算速度信息。

A/V输入单元120用于接收音频或视频信号。A/V输入单元120可以包括相机121和麦克风122，相机121对在视频捕获模式或图像捕获模式中由图像捕获装置获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示模块151上。经相机121处理后的图像帧可以存储在存储器160(或其它存储介质)中或者经由无线通信单元110进行发送，可以根据移动终端的构造提供两个或更多相机121。麦克风122可以在电话通话模式、记录模式、语音识别模式等等运行模式中经由麦克风接收声音(音频数据)，并且能够将这样的声音处理为音频数据。处理后的音频(语音)数据可以在电话通话模式的情况下转换为可经由移动通信模块112发送到移动通信基站的格式输出。麦克风122可以实施各种类型的噪声消除(或抑制)算法以消除(或抑制)在接收和发送音频信号的过程中产生的噪声或者干扰。

用户输入单元130可以根据用户输入的命令生成键输入数据以控制移动终端的各种操作。用户输入单元130允许用户输入各种类型的信息，并且可以包括键盘、锅仔片、触摸板(例如，检测由于被接触而导致的电阻、压力、电容等等的变化的触敏组件)、滚轮、摇杆等等。特别地，当触摸板以层的形式叠加在显示模块151上时，可以形成触摸屏。

感测单元140检测移动终端100的当前状态，(例如，移动终端100的打开或关闭状态)、移动终端100的位置、用户对于移动终端100的接触(即，触摸输入)的有无、移动终端100的取向、移动终端100的加速或减速移动和方向等等，并且生成用于控制移动终端100的操作的命令或信号。例如，当移动终端100实施为滑动型移动电话时，感测单元140可以感测该滑动型电话是打开还是关闭。另外，感测单元140能够检测电源单元190是否提供电力或者接口单元170是否与外部装置耦接。接口单元170用作至少一个外部装置与移动终端100连接可以通过的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。识别模块可以是存储用于验证用户使用移动终端100的各种信息并且可以包括用户识别模块(UIM)、客户识别模块(SIM)、通用客户识别模块(USIM)等等。另外，具有识别模块的装置(下面称为″识别装置″)可以采取智能卡的形式，因此，识别装置可以经由端口或其它连接装置与移动终端100连接。接口单元170可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端100内的一个或多个元件或者可以用于在移动终端和外部装置之间传输数据。

另外，当移动终端100与外部底座连接时，接口单元170可以用作允许通过其将电力从底座提供到移动终端100的路径或者可以用作允许从底座输入的各种命令信号通过其传输到移动终端的路径。从底座输入的各种命令信号或电力可以用作用于识别移动终端是否准确地安装在底座上的信号。输出单元150被构造为以视觉、音频和/或触觉方式提供输出信号(例如，音频信号、视频信号、警报信号、振动信号等等)。输出单元150可以包括显示模块151、音频输出模块152、警报模块153等等。

显示模块151可以显示在移动终端100中处理的信息。例如，当移动终端100处于电话通话模式时，显示模块151可以显示与通话或其它通信(例如，文本消息收发、多媒体文件下载等等)相关的用户界面(UI)或图形用户界面(GUI)。当移动终端100处于视频通话模式或者图像捕获模式时，显示模块151可以显示捕获的图像和/或接收的图像、示出视频或图像以及相关功能的UI或GUI等等。

同时，当显示模块151和触摸板以层的形式彼此叠加以形成触摸屏时，显示模块151可以用作输入装置和输出装置。显示模块151可以包括液晶显示器(LCD)、薄膜晶体管LCD(TFT-LCD)、有机发光二极管(OLED)显示器、柔性显示器、三维(3D)显示器等等中的至少一种。这些显示器中的一些可以被构造为透明状以允许用户从外部观看，这可以称为透明显示器，典型的透明显示器可以例如为TOLED(透明有机发光二极管)显示器等等。根据特定想要的实施方式，移动终端100可以包括两个或更多显示模块(或其它显示装置)，例如，移动终端可以包括外部显示模块(未示出)和内部显示模块(未示出)。触摸屏可用于检测触摸输入压力以及触摸输入位置和触摸输入面积。

音频输出模块152可以在移动终端处于呼叫信号接收模式、通话模式、记录模式、语音识别模式、广播接收模式等等模式下时，将无线通信单元110接收的或者在存储器160中存储的音频数据转换音频信号并且输出为声音。而且，音频输出模块152可以提供与移动终端100执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出模块152可以包括扬声器、蜂鸣器等等。

警报模块153可以提供输出以将事件的发生通知给移动终端100。典型的事件可以包括呼叫接收、消息接收、键信号输入、触摸输入等等。除了音频或视频输出之外，警报模块153可以以不同的方式提供输出以通知事件的发生。例如，警报模块153可以以振动的形式提供输出，当接收到呼叫、消息或一些其它进入通信(incomingcommunication)时，警报模块153可以提供触觉输出(即，振动)以将其通知给用户。通过提供这样的触觉输出，即使在用户的移动电话处于用户的口袋中时，用户也能够识别出各种事件的发生。警报模块153也可以经由显示模块151或音频输出模块152提供通知事件的发生的输出。

存储器160可以存储由控制器180执行的处理和控制操作的软件程序等等，或者可以暂时地存储己经输出或将要输出的数据(例如，电话簿、消息、静态图像、视频等等)。而且，存储器160可以存储关于当触摸施加到触摸屏时输出的各种方式的振动和音频信号的数据。

存储器160可以包括至少一种类型的存储介质，所述存储介质包括闪存、硬盘、多媒体卡、卡型存储器(例如，SD或DX存储器等等)、随机访问存储器(RAM)、静态随机访问存储器(SRAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、可编程只读存储器(PROM)、磁性存储器、磁盘、光盘等等。而且，移动终端100可以与通过网络连接执行存储器160的存储功能的网络存储装置协作。

控制器180通常控制移动终端的总体操作。例如，控制器180执行与语音通话、数据通信、视频通话等等相关的控制和处理。另外，控制器180可以包括用于再现(或回放)多媒体数据的多媒体模块181，多媒体模块181可以构造在控制器180内，或者可以构造为与控制器180分离。控制器180可以执行模式识别处理，以将在触摸屏上执行的手写输入或者图片绘制输入识别为字符或图像。

电源单元190在控制器180的控制下接收外部电力或内部电力并且提供操作各元件和组件所需的适当的电力。

这里描述的各种实施方式可以以使用例如计算机软件、硬件或其任何组合的计算机可读介质来实施。对于硬件实施，这里描述的实施方式可以通过使用特定用途集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理装置(DSPD)、可编程逻辑装置(PLD)、现场可编程门阵列(FPGA)、处理器、控制器、微控制器、微处理器、被设计为执行这里描述的功能的电子单元中的至少一种来实施，在一些情况下，这样的实施方式可以在控制器180中实施。对于软件实施，诸如过程或功能的实施方式可以与允许执行至少一种功能或操作的单独的软件模块来实施。软件代码可以由以任何适当的编程语言编写的软件应用程序(或程序)来实施，软件代码可以存储在存储器160中并且由控制器180执行。

至此，己经按照其功能描述了移动终端。本发明能够应用于诸如折叠型、直板型、摆动型、滑动型等各种类型的移动终端。

如图1中所示的移动终端100可以被构造为利用经由帧或分组发送数据的诸如有线和无线通信系统以及基于卫星的通信系统来操作。

现在将参考图2描述其中根据本发明的移动终端能够操作的通信系统。

这样的通信系统可以使用不同的空中接口和/或物理层。例如，由通信系统使用的空中接口包括例如频分多址(FDMA)、时分多址(TDMA)、码分多址(CDMA)和通用移动通信系统(UMTS)(特别地，长期演进(LTE))、全球移动通信系统(GSM)等等。作为非限制性示例，下面的描述涉及CDMA通信系统，但是这样的教导同样适用于其它类型的系统。

参考图2，CDMA无线通信系统可以包括多个移动终端100、多个基站(BS)270、基站控制器(BSC)275和移动交换中心(MSC)280。MSC280被构造为与公共电话交换网络(PSTN)290形成接口。MSC280还被构造为与可以经由回程线路耦接到基站270的BSC275形成接口。回程线路可以根据若干己知的接口中的任一种来构造，所述接口包括例如E1/T1、ATM，IP、PPP、帧中继、HDSL、ADSL或xDSL。将理解的是，如图2中所示的系统可以包括多个BSC275。

每个BS270可以服务一个或多个分区(或区域)，由多向天线或指向特定方向的天线覆盖的每个分区放射状地远离BS270。或者，每个分区可以由用于分集接收的两个或更多天线覆盖。每个BS270可以被构造为支持多个频率分配，并且每个频率分配具有特定频谱(例如，1.25MHz,5MHz等等)。

分区与频率分配的交叉可以被称为CDMA信道。BS270也可以被称为基站收发器子系统(BTS)或者其它等效术语。在这样的情况下，术语″基站″可以用于笼统地表示单个BSC275和至少一个BS270。基站也可以被称为″蜂窝站″。或者，特定BS270的各分区可以被称为多个蜂窝站。

如图2中所示，广播发射器(BT)295将广播信号发送给在系统内操作的移动终端100。如图1中所示的广播接收模块111被设置在移动终端100处以接收由BT295发送的广播信号。在图2中，示出了几个全球定位系统(GPS)卫星300。卫星300帮助定位多个移动终端100中的至少一个。

在图2中，描绘了多个卫星300，但应当理解的是，可以利用任何数目的卫星获得有用的定位信息。如图1中所示的GPS模块115通常被构造为与卫星300配合以获得想要的定位信息。替代GPS跟踪技术或者在GPS跟踪技术之外，可以使用可以跟踪移动终端的位置的其它技术。另外，至少一个GPS卫星300可以选择性地或者额外地处理卫星DMB传输。

作为无线通信系统的一个典型操作，BS270接收来自各种移动终端100的反向链路信号。移动终端100通常参与通话、消息收发和其它类型的通信。特定基站270接收的每个反向链路信号被在特定BS270内进行处理。获得的数据被转发给相关的BSC275。BSC提供通话资源分配和包括BS270之间的软切换过程的协调的移动管理功能。BSC275还将接收到的数据路由到MSC280，其提供用于与PSTN290形成接口的额外的路由服务。类似地，PSTN290与MSC280形成接口，MSC与BSC275形成接口，并且BSC275相应地控制BS270以将正向链路信号发送到移动终端100。

基于上述移动终端硬件结构以及通信系统，提出本发明基于屏幕投影的操控方法和装置各个实施例，本发明的方法和装置主要应用于上述移动终端，特别是手机。此外，还可以应用于投影屏、显示屏、智能电视等固定终端。

本发明实施例所述的屏幕投影，主要指基于WFD的屏幕投影，当然也可以是基于其它屏幕投影技术的屏幕投影，本发明对此不作限定，以下主要以WFD技术为例进行详细说明。

本发明实施例中，当两个终端进行屏幕投影时，其中一个终端为发送端(Source)，用于向外发送投影数据，另一个终端为接收端(Sink)，用于接收投影数据并输出。

实施例一

如图3所示，提出本发明第一实施例的基于屏幕投影的操控方法，所述方法应用于屏幕投影的接收端，包括以下步骤：

S11、获取发送端当前运行的应用的信息。

本步骤S11中，接收端可以在建立屏幕投影连接之前或之后获取屏幕投影的发送端当前运行的应用的信息，即获悉发送端当前运行的是哪一个应用。

可选地，接收端在建立屏幕投影连接之前，获取发送端当前运行的应用的信息；然后，在下一步骤S12的同时、之前或之后，以接收端的身份向发送端发起屏幕投影连接请求，与发送端建立屏幕投影连接。

具体的，接收端可以通过摄像头扫描发送端的屏幕图像，或者通过近场通信(Near Field Communication，NFC)读取发送端的屏幕图像，然后利用图像识别技术，根据屏幕图像识别出发送端当前运行的应用。图像识别技术是比较成熟的现有技术，在此不赘述。

例如，发送端启动拟进行屏幕投影的应用(如视频播放应用、演示应用等)后，接收端启动摄像头，将接收端的摄像头与发送端的屏幕对准，接收端则通过摄像头扫描发送端的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，接收端通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

又如，发送端启动拟进行屏幕投影的应用(如视频播放应用、演示应用等)后，开启接收端和发送端的NFC功能，然后将接收端和发送端靠近，接收端则通过NFC读取发送端的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，接收端通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

可选地，在建立屏幕投影连接之后，接收端获取本机屏幕上的投影图像，利用图像识别技术，根据投影图像识别出发送端当前运行的应用。

具体的，接收端与发送端建立屏幕投影连接之后，发送端则向接收端发送投影数据，接收端接收投影数据，并根据投影数据在屏幕上生成投影图像。然后接收端获取本机屏幕上的投影图像，该投影图像即发送端当前的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，接收端通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

S12、根据发送端当前运行的应用获取手势操控方案。

可选地，接收端从预置的手势操控方案中选择一个与发送端当前运行的应用相对应的手势操控方案。

具体的，可以针对各种应用预先设置对应的手势操控方案，并存储于接收端本地或者云端服务器，如预先设置视频播放应用的手势操控方案、演示应用的手势操控方案等，所述演示应用如演示文稿应用(如PPT)、图片播放应用等。当获悉发送端当前运行的应用后，接收端则可以从本地存储或云端存储中选取一个与发送端当前运行的应用相对应的手势操控方案。

例如，当发送端当前运行的应用为视频播放应用时，则选取视频播放应用的手势操控方案；当发送端当前运行的应用为演示文稿应用时，则选取演示文稿应用的手势操控方案；当发送端当前运行的应用为图片播放应用时，则选取图片播放应用的手势操控方案。

可选地，接收端根据预设规则生成一个与发送端当前运行的应用相对应的手势操控方案。

具体的，可以预先设定针对不同的应用的手势操控方案的生成规则，当获悉发送端当前运行的应用时，则根据该应用的生成规则来生成一个对应的手势操控方案。

例如，当发送端当前运行的应用为视频播放应用时，则根据视频播放应用的生成规则来生成对应的手势操控方案；当发送端当前运行的应用为演示文稿应用时，则根据演示文稿应用的生成规则来生成对应的手势操控方案；当发送端当前运行的应用为图片播放应用时，则根据图片播放应用的生成规则来生成对应的手势操控方案。

S13、接收手势指令，根据手势操控方案将手势指令转换为控制指令并发送给发送端，以使发送端根据控制指令控制当前运行的应用。

本发明实施例中，所述手势操控方案包含了手势指令与控制指令的对应关系，接收端可以根据手势操控方案将手势指令转换为对应的控制指令，用以远程控制发送端当前运行的应用。所述手势指令即特定的手势动作。

可选地，所述手势动作可以是凌空手势动作，如人手凌空向左、向右、向下或向上挥动，或者凌空点击的动作等，接收端可以通过摄像头捕捉凌空手势动作，当捕捉到的凌空手势动作为特定的手势动作时，则接收到手势指令。

举例而言，以接收端当前运行的应用为视频播放应用为例。当捕捉到凌空向左挥动的手势指令时，将该手势指令转换为播放进度后退的控制指令；当捕捉到凌空向右挥动的手势指令时，将该手势指令转换为播放进度前进的控制指令；当捕捉到凌空点击的手势指令时，将该手势指令转换为暂停/播放的控制指令；当捕捉到凌空向上挥动的手势指令时，将该手势指令转换为切换到上一个视频文件的控制指令；当捕捉到凌空向下挥动的手势指令时，将该手势指令转换为切换到下一个视频文件的控制指令。

可选地，所述手势动作也可以是人手移动接收端的移动手势动作，如人手握持接收端向左、向右、向下或向上移动，或者左右晃动、前后晃动等，接收端可以通过传感器感应移动手势动作，当感应到的移动手势动作为特定的手势动作时，则接收到手势指令。

举例而言，以接收端当前运行的应用为视频播放应用为例。当感应到向左移动的手势指令时，将该手势指令转换为播放进度后退的控制指令；当感应到向右移动的手势指令时，将该手势指令转换为播放进度前进的控制指令；当感应到前后晃动的手势指令时，将该手势指令转换为暂停/播放的控制指令；当感应到向上移动的手势指令时，将该手势指令转换为切换到上一个视频文件的控制指令；当感应到向下移动的手势指令时，将该手势指令转换为切换到下一个视频文件的控制指令。

发送端接收到接收端发送的控制指令后，立即根据控制指令控制当前运行的应用，如控制视频播放应用后退、前进、暂停/播放、切换到上一个视频文件、切换到下一个视频文件等。

本发明实施例的基于屏幕投影的操控方法，通过接收端接收用户的手势指令，并将手势指令转换为控制指令发送给发送端，以使发送端根据控制指令控制当前运行的应用。从而使得用户可以在接收端侧通过手势动作远程操控发送端，无需直接对发送端进行操控，提高了屏幕投影操控的便捷性，解决了现有技术中屏幕投影操控不够方便快捷的技术问题，并丰富了屏幕投影的操控方式，提升了用户体验。

实施例二

如图4所示，提出本发明第二实施例基于屏幕投影的操控方法，所述方法应用于屏幕投影的接收端，包括以下步骤：

S21、通过摄像头扫描发送端的屏幕图像，根据屏幕图像识别出发送端当前运行的应用。

本实施例中，接收端在建立屏幕投影连接之前，获取发送端当前运行的应用的信息。具体的，接收端通过摄像头扫描发送端的屏幕图像，然后利用图像识别技术，根据屏幕图像识别出发送端当前运行的应用。在某些实施例中，接收端也可以通过NFC读取发送端的屏幕图像，

例如，发送端启动拟进行屏幕投影的应用(如视频播放应用、演示应用等)后，接收端启动摄像头，将接收端的摄像头与发送端的屏幕对准，接收端则通过摄像头扫描发送端的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，接收端通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

S22、根据发送端当前运行的应用获取手势操控方案。

本步骤S22与第一实施例中的步骤S12相同，在此不再赘述。

S23、以接收端的身份向发送端发起屏幕投影连接请求，与发送端建立屏幕投影连接。

具体的，终端设备以接收端的身份向发送端发起屏幕投影连接请求，发送端接收到请求后，当选择接受该请求时，二者则开始建立屏幕投影连接，屏幕投影连接的具体建立流程与现有技术相同，在此不赘述。

在某些实施例中，步骤S22与S23的顺序也可以颠倒，或者两个步骤S22和S23同时进行。

S24、接收手势指令，根据手势操控方案将手势指令转换为控制指令并发送给发送端，以使发送端根据控制指令控制当前运行的应用。

本步骤S24与第一实施例中的步骤S13相同，在此不再赘述。

采用本实施例基于屏幕投影的操控方法，当一个终端设备获取到另一个终端设备当前运行的应用的信息后，则自动以接收端的身份向另一个终端设备发起屏幕连接请求，以使另一个终端设备自动以发送端的身份与接收端建立屏幕连接，无需用户手动设置接收端和发送端，丰富了屏幕投影的发起方式，既提高了屏幕投影发起的便捷性，又提高了屏幕投影操控的便捷性，极大的提升了用户体验。

如图5所示，提出本发明的方法第三实施例，所述方法应用于屏幕投影的接收端，包括以下步骤：

S31、与接收端建立屏幕投影连接。

本步骤S31中，可以由接收端发起屏幕投影连接请求，也可以由发送端发起屏幕投影连接请求。

S32、获取屏幕上的投影图像，根据投影图像识别出发送端当前运行的应用。

本步骤S32中，在建立屏幕投影连接之后，接收端获取本机屏幕上的投影图像，利用图像识别技术，根据投影图像识别出发送端当前运行的应用。

具体的，接收端与发送端建立屏幕投影连接之后，发送端则向接收端发送投影数据，接收端接收投影数据，并根据投影数据在屏幕上生成投影图像。然后接收端获取本机屏幕上的投影图像，该投影图像即发送端当前的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，接收端通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

S33、根据发送端当前运行的应用获取手势操控方案。

本步骤S33与第一实施例中的步骤S12相同，在此不再赘述。

S34、接收手势指令，根据手势操控方案将手势指令转换为控制指令并发送给发送端，以使发送端根据控制指令控制当前运行的应用。

本步骤S34与第一实施例中的步骤S13相同，在此不再赘述。

采用本实施例基于屏幕投影的操控装置，在建立屏幕投影连接后，自动通过投影图像获取发送端当前运行的应用的信息，进而获取手势操控方案对发送端进行远程操控，无需用户手动操作来获取发送端的应用信息，进一步提高了屏幕投影操控的便捷性，提升了用户体验。

实施例四

如图6所示，提出本发明第四实施例基于屏幕投影的操控装置，所述装置应用于屏幕投影的接收端，包括应用信息获取模块、操控方案获取模块和控制指令转换模块，其中：

应用信息获取模块：用于获取发送端当前运行的应用的信息。

本实施例中，当建立屏幕投影连接之后，应用信息获取模块获取本机屏幕上的投影图像，利用图像识别技术，根据投影图像识别出发送端当前运行的应用。

具体的，接收端与发送端建立屏幕投影连接之后，发送端则向接收端发送投影数据，接收端接收投影数据，并根据投影数据在屏幕上生成投影图像。然后应用信息获取模块获取本机(接收端)屏幕上的投影图像，该投影图像即发送端当前的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，应用信息获取模块通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

操控方案获取模块：用于根据发送端当前运行的应用获取手势操控方案。

可选地，操控方案获取模块从预置的手势操控方案中选择一个与发送端当前运行的应用相对应的手势操控方案。

具体的，可以针对各种应用预先设置对应的手势操控方案，并存储于接收端本地或者云端服务器，如预先设置视频播放应用的手势操控方案、演示应用的手势操控方案等，所述演示应用如演示文稿应用(如PPT)、图片播放应用等。当获悉发送端当前运行的应用后，操控方案获取模块则可以从本地存储或云端存储中选取一个与发送端当前运行的应用相对应的手势操控方案。

例如，当发送端当前运行的应用为视频播放应用时，操控方案获取模块则选取视频播放应用的手势操控方案；当发送端当前运行的应用为演示文稿应用时，操控方案获取模块则选取演示文稿应用的手势操控方案；当发送端当前运行的应用为图片播放应用时，操控方案获取模块则选取图片播放应用的手势操控方案。

可选地，操控方案获取模块根据预设规则生成一个与发送端当前运行的应用相对应的手势操控方案。

具体的，可以预先设定针对不同的应用的手势操控方案的生成规则，当获悉发送端当前运行的应用时，则根据该应用的生成规则来生成一个对应的手势操控方案。

例如，当发送端当前运行的应用为视频播放应用时，则根据视频播放应用的生成规则来生成对应的手势操控方案；当发送端当前运行的应用为演示文稿应用时，则根据演示文稿应用的生成规则来生成对应的手势操控方案；当发送端当前运行的应用为图片播放应用时，则根据图片播放应用的生成规则来生成对应的手势操控方案。

控制指令转换模块：用于接收手势指令，根据手势操控方案将手势指令转换为控制指令并发送给发送端，以使发送端根据控制指令控制当前运行的应用。

本发明实施例中，所述手势操控方案包含了手势指令与控制指令的对应关系，控制指令转换模块可以根据手势操控方案将手势指令转换为对应的控制指令，用以远程控制发送端当前运行的应用。所述手势指令即特定的手势动作。

可选地，所述手势动作可以是凌空手势动作，如人手凌空向左、向右、向下或向上挥动，或者凌空点击的动作等，控制指令转换模块可以通过摄像头捕捉凌空手势动作，当捕捉到的凌空手势动作为特定的手势动作时，则接收到手势指令。

举例而言，以接收端当前运行的应用为视频播放应用为例。当捕捉到凌空向左挥动的手势指令时，控制指令转换模块将该手势指令转换为播放进度后退的控制指令；当捕捉到凌空向右挥动的手势指令时，控制指令转换模块将该手势指令转换为播放进度前进的控制指令；当捕捉到凌空点击的手势指令时，控制指令转换模块将该手势指令转换为暂停/播放的控制指令；当捕捉到凌空向上挥动的手势指令时，控制指令转换模块将该手势指令转换为切换到上一个视频文件的控制指令；当捕捉到凌空向下挥动的手势指令时，控制指令转换模块将该手势指令转换为切换到下一个视频文件的控制指令。

可选地，所述手势动作也可以是人手移动接收端的移动手势动作，如人手握持接收端向左、向右、向下或向上移动，或者左右晃动、前后晃动等，控制指令转换模块可以通过传感器感应移动手势动作，当感应到的移动手势动作为特定的手势动作时，则接收到手势指令。

举例而言，以接收端当前运行的应用为视频播放应用为例。当感应到向左移动的手势指令时，控制指令转换模块将该手势指令转换为播放进度后退的控制指令；当感应到向右移动的手势指令时，控制指令转换模块将该手势指令转换为播放进度前进的控制指令；当感应到前后晃动的手势指令时，控制指令转换模块将该手势指令转换为暂停/播放的控制指令；当感应到向上移动的手势指令时，控制指令转换模块将该手势指令转换为切换到上一个视频文件的控制指令；当感应到向下移动的手势指令时，控制指令转换模块将该手势指令转换为切换到下一个视频文件的控制指令。

发送端接收到接收端的控制指令转换模块发送的控制指令后，立即根据控制指令控制当前运行的应用，如控制视频播放应用后退、前进、暂停/播放、切换到上一个视频文件、切换到下一个视频文件等。

本发明实施例基于屏幕投影连接的操控装置，通过于接收端侧接收用户的手势指令，并将手势指令转换为控制指令发送给发送端，以使发送端根据控制指令控制当前运行的应用。从而使得用户可以在接收端侧通过手势动作远程操控发送端，无需直接对发送端进行操控，提高了屏幕投影操控的便捷性，解决了现有技术中屏幕投影操控不够方便快捷的技术问题，并丰富了屏幕投影的操控方式，提升了用户体验。

实施例五

如图7所示，提出本发明第五实施例基于屏幕投影的操控装置，所述装置应用于屏幕投影的接收端，本实施例在第一实施例的基础上增加了一屏幕投影连接模块。

本实施例中，在建立屏幕投影连接之前，应用信息获取模块则获取发送端当前运行的应用的信息；然后，屏幕投影连接模块在操控方案获取模块获取手势操控方案的同时、之前或之后，自动以接收端的身份与发送端建立屏幕投影连接。

具体的，应用信息获取模块可以通过摄像头扫描发送端的屏幕图像，或者通过NFC读取发送端的屏幕图像，然后利用图像识别技术，根据屏幕图像识别出发送端当前运行的应用。图像识别技术是比较成熟的现有技术，在此不赘述。

例如，发送端启动拟进行屏幕投影的应用(如视频播放应用、演示应用等)后，应用信息获取模块启动摄像头，将接收端的摄像头与发送端的屏幕对准，应用信息获取模块则通过摄像头扫描发送端的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，应用信息获取模块通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

又如，发送端启动拟进行屏幕投影的应用(如视频播放应用、演示应用等)后，开启接收端和发送端的NFC功能，然后将接收端和发送端靠近，应用信息获取模块则通过NFC读取发送端的屏幕图像，该屏幕图像显示了发送端当前运行的应用的用户界面，应用信息获取模块通过图像识别技术识别出该用户界面属于哪一个(种)应用的用户界面，进而识别出发送端当前运行的是哪一个应用。

采用本实施例基于屏幕投影的操控装置，当获取到另一个终端设备当前运行的应用的信息后，则自动以接收端的身份向另一个终端设备发起屏幕连接请求，以使另一个终端设备自动以发送端的身份与接收端建立屏幕连接，无需用户手动设置接收端和发送端，丰富了屏幕投影的发起方式，既提高了屏幕投影发起的便捷性，又提高了屏幕投影操控的便捷性，极大的提升了用户体验。

上述实施例提供的基于屏幕投影连接的操控装置与基于屏幕投影连接的操控方法实施例属于同一构思，其具体实现过程详见方法实施例，且方法实施例中的技术特征在装置实施例中均对应适用，这里不再赘述。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

上述本发明实施例序号仅仅为了描述，不代表实施例的优劣。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端设备(可以是手机，计算机，服务器，或者网络设备等)执行本发明各个实施例所述的方法。

以上仅为本发明的优选实施例，并非因此限制本发明的专利范围，凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换，或直接或间接运用在其他相关的技术领域，均同理包括在本发明的专利保护范围内。