粗糙粒度一致性的制作方法

文档序号:15832559发布日期:2018-11-07 07:29阅读:157来源:国知局
粗糙粒度一致性的制作方法
实施例一般地涉及数据处理,并且更特别地涉及经由通用图形处理单元的数据处理。
背景技术
当前的并行图形数据处理包括被开发成执行图形数据上的具体操作的系统和方法,所述操作诸如例如线性内插、镶嵌(tessellation)、栅格化、纹理映射、深度测试等。传统上,图形处理器使用固定功能计算单元来处理图形数据;然而,最近,已经使图形处理器的部分是可编程的,使得这样的处理器能够支持更广泛种类的操作,以用于处理顶点和分片数据。为了进一步增加性能,图形处理器典型地实现诸如流水线化之类的处理技术,该技术试图遍及图形流水线的不同部分而并行处理尽可能多的图形数据。具有单个指令、多个线程(simt)架构的并行图形处理器被设计成最大化图形流水线中的并行处理的量。在simt架构中,并行线程组试图尽可能频繁地一起同步地施行程序指令以增加处理效率。用于simt架构的软件和硬件的一般概述可以在shanecook,cudaprogramming,第3章,第37-51页(2013)和/或nicholaswilt,cuda手册,acomprehensiveguidetogpuprogramming,第2.6.2至3.1.2章节(2013年6月)中找到。附图说明为了可以按其详细理解本实施例的以上叙述的特征的方式,可以参考实施例来具有以上简要归纳的实施例的更加特定的描述,在附图中图示该实施例中的一些。然而,要指出的是,附图仅仅图示典型的实施例,并且因而不要被视为其范围的限制。图1是图示了配置成实现本文所描述的实施例的一个或多个方面的计算机系统的框图;图2a-2d图示了根据实施例的并行处理器组件;图3a-3b是根据实施例的图形多处理器的框图;图4a-4f图示了示例性架构,其中多个gpu通信耦合到多个多核处理器;图5是根据实施例的图形处理流水线的概念图;图6图示了根据实施例的具有异构硬件一致性的异构处理系统;图7图示了根据实施例的用于粗糙粒度一致性的逻辑结构;图8是逻辑使得能够实现异构处理系统中的粗糙粒度一致性的流程图;图9是根据实施例的数据处理系统的框图;图10是根据实施例的处理系统的框图;图11是根据实施例的处理器的框图;图12是根据实施例的图形处理器的框图;图13是依照一些实施例的图形处理器的图形处理引擎的框图;图14是由附加实施例提供的图形处理器的框图;图15图示了在一些实施例中采用的包括处理元件的阵列的线程施行逻辑;图16是图示了根据一些实施例的图形处理器指令格式的框图;图17是根据另一实施例的图形处理器的框图;图18a-18b图示了根据一些实施例的图形处理器命令格式和命令序列;图19图示了根据一些实施例的用于数据处理系统的示例性图形软件架构;图20是图示了根据实施例的ip核开发系统的框图;图21是图示了根据实施例的示例性片上系统集成电路的框图;图22是图示了根据实施例的附加图形处理器的框图;以及图23是图示了根据实施例的片上系统集成电路的附加示例性图形处理器的框图。具体实施方式在一些实施例中,图形处理单元(gpu)通信耦合到主机/处理器核以加速图形操作、机器学习操作、图案分析操作和各种通用gpu(gpgpu)功能。gpu可以通过总线或另一互连(例如高速互连,诸如pcie或nvlink)通信耦合到主机处理器/核。在其它实施例中,gpu可以集成在与核相同的封装或芯片上,并且通过内部处理器总线/互连(即在封装或芯片内部)通信耦合到核。无论以其连接gpu的方式如何,处理器核都可以按工作描述符中所包含的命令/指令序列的形式向gpu分配工作。gpu然后使用专用电路/逻辑以用于高效地处理这些命令/指令。图形处理器正在日益增加地用于通用计算任务。通用gpu(gpgpu)处理的示例使用包括但不限于机器学习、视频分析、面部识别和自主车辆控制。gpgpu处理可以经由异构存储器系统的使用而更加高效,其中在主机处理器(例如cpu)与gpu之间使得能够实现硬件管理的一致性。异构硬件cpu和gpgpu一致性可以显著地简化用于使得能够实现异构计算的编程模型。在以下描述中,阐述众多具体细节以提供更加透彻的理解。然而,对本领域技术人员将明显的是,本文所描述的实施例可以在没有这些具体细节中的一个或多个的情况下实践。在其它实例中,并未描述公知的特征以避免使本实施例的细节模糊。系统概览图1是图示了配置成实现本文所描述的实施例的一个或多个方面的计算系统100的框图。计算系统100包括具有经由互连路径通信的一个或多个处理器102和系统存储器104的处理子系统101,所述互连路径可以包括存储器中枢105。存储器中枢105可以是芯片集组件内的分离组件,或者可以集成在所述一个或多个处理器102内。存储器中枢105经由通信链路106与i/o子系统111耦合。i/o子系统111包括可以使得计算系统100能够从一个或多个输入设备108接收输入的i/o中枢107。此外,i/o中枢107可以使得显示控制器能够向一个或多个显示设备110a提供输出,所述显示控制器可以被包括在所述一个或多个处理器102中。在一个实施例中,与i/o中枢107耦合的所述一个或多个显示设备110a可以包括本地、内部或嵌入式显示设备。在一个实施例中,处理子系统101包括经由总线或其它通信链路113耦合到存储器中枢105的一个或多个并行处理器112。通信链路113可以是任何数目的基于标准的通信链路技术或协议中的一个,诸如但不限于pciexpress,或者可以是厂商特定通信接口或通信组织。在一个实施例中,所述一个或多个并行处理器112形成聚焦于计算的并行或向量处理系统,其包括大数目的处理核和/或处理集群,诸如许多集成核(mic)处理器。在一个实施例中,所述一个或多个并行处理器112形成图形处理子系统,其可以向经由i/o中枢107耦合的所述一个或多个显示设备110a中的一个输出像素。所述一个或多个并行处理器112还可以包括显示控制器和显示接口(未示出),以使得能够实现去到一个或多个显示设备110b的直接连接。在i/o子系统111内,系统存储单元114可以连接到i/o中枢107以便为计算系统100提供存储机制。i/o交换机116可以用于提供接口机制以使得能够实现i/o中枢107与其它组件(诸如网络适配器118和/或可以集成到平台中的无线网络适配器119,以及可以经由一个或多个插件设备120添加的各种其它设备)之间的连接。网络适配器118可以是以太网适配器或另一有线网络适配器。无线网络适配器119可以包括wi-fi、蓝牙、近场通信(nfc)或包括一个或多个无线无线电设备的其它网络设备中的一个或多个。计算系统100可以包括未明确示出的其它组件,包括usb或其它端口连接、光学存储驱动器、视频捕获设备等,也可以连接到i/o中枢107。互连图1中的各种组件的通信路径可以使用任何合适的协议实现,所述协议诸如基于pci(外围组件互连)的协议(例如pci-express),或任何其它总线或点对点通信接口和/或(多个)协议,诸如nv链路高速互连,或本领域中已知的互连协议。在一个实施例中,所述一个或多个并行处理器112合并针对图形和视频处理进行优化的电路,包括例如视频输出电路,并且构成图形处理单元(gpu)。在另一实施例中,所述一个或多个并行处理器112合并针对通用处理进行优化的电路,而同时保留本文更加详细描述的底层计算架构。在又一实施例中,计算系统100的组件可以与一个或多个其它系统元件集成在单个集成电路上。例如,所述一个或多个并行处理器112、存储器中枢105、(多个)处理器102和i/o中枢107可以集成到片上系统(soc)集成电路中。可替换地,计算系统100的组件可以集成到单个封装中以形成系统级封装(sip)配置。在一个实施例中,计算系统100的组件的至少一部分可以集成到多芯片模块(mcm)中,多芯片模块(mcm)可以与其它多芯片模块互连成模块化计算系统。将领会到,本文所示出的计算系统100是说明性的,并且变型和修改是可能的。连接拓扑,包括桥接器的数目和布置、(多个)处理器102的数目,以及(多个)并行处理器112的数目,可以如所期望的那样进行修改。例如,在一些实施例中,系统存储器104直接连接到(多个)处理器102而不是通过桥接器,而其它设备经由存储器中枢105和(多个)处理器102与系统存储器104通信。在其它替换的拓扑中,(多个)并行处理器112连接到i/o中枢107或直接连接到所述一个或多个处理器102中的一个,而不是连接到存储器中枢105。在其它实施例中,i/o中枢107和存储器中枢105可以集成到单个芯片中。大实施例可以包括经由多个插座附接的两个或更多处理器102集合,所述处理器102可以与(多个)并行处理器112的两个或更多实例耦合。本文所示出的特定组件中的一些是可选的,并且可以不被包括在计算系统100的所有实现方式中。例如,可以支持任何数目的插件卡或外设,或者可以排除一些组件。图2a图示了根据实施例的并行处理器200。并行处理器200的各种组件可以使用一个或多个集成电路设备实现,所述集成电路设备诸如可编程处理器、专用集成电路(asic)或现场可编程门阵列(fpga)。根据实施例,所图示的并行处理器200是图1中所示的所述一个或多个并行处理器112的变型。在一个实施例中,并行处理器200包括并行处理单元202。并行处理单元包括i/o单元204,i/o单元204使得能够实现与其它设备的通信,所述其它设备包括并行处理单元202的其它实例。i/o单元204可以直接连接到其它设备。在一个实施例中,i/o单元204经由中枢或交换机接口(诸如存储器中枢105)的使用而与其它设备连接。存储器中枢105与i/o单元204之间的连接形成通信链路113。在并行处理单元202内,i/o单元204与主机接口206和存储器交叉条216连接,其中主机接口206接收涉及执行处理操作的命令,并且存储器交叉条216接收涉及执行存储器操作的命令。当主机接口206经由i/o单元204接收到命令缓冲时,主机接口206可以向前端208引导执行那些命令的工作操作。在一个实施例中,前端208与调度器210耦合,调度器210配置成向处理集群阵列212分发命令或其它工作项目。在一个实施例中,调度器210确保处理集群阵列212被适当地配置并且在向处理集群阵列212的处理集群分发任务之前处于有效状态中。处理集群阵列212可以包括高达“n”个处理集群(例如集群214a、集群214b至集群214n)。处理集群阵列212的每一个集群214a-214n能够施行大数目(例如数千个)的并发线程,其中每一个线程是程序的实例。在一个实施例中,可以分配不同集群214a-214n以用于处理不同类型的程序,或用于执行不同类型的计算。调度器210可以使用各种调度和/或工作分发算法(其可以取决于由每一种类型的程序或计算引起的工作负载而变化)来向处理集群阵列212的集群214a-214n分配工作。调度可以由调度器210动态地处置,或者可以在配置用于由处理集群阵列212施行的程序逻辑的编译期间由编译器逻辑部分地辅助。处理集群阵列212可以配置成执行各种类型的并行处理操作。在一个实施例中,处理集群阵列212配置成执行通用并行计算操作。例如,处理集群阵列212可以包括施行处理任务的逻辑,所述处理任务包括但不限于,线性和非线性数据变换、视频和/或音频数据的滤波,和/或建模操作(例如应用物理定律以确定位置、速率和对象的其它属性)。在一个实施例中,处理集群阵列212配置成执行并行图形处理操作。在其中并行处理器200配置成执行图形处理操作的实施例中,处理集群阵列212可以包括支持这样的图形处理操作的施行的附加逻辑,包括但不限于执行纹理操作的纹理采样逻辑,以及镶嵌逻辑和其它顶点处理逻辑。此外,处理集群阵列212可以配置成施行图形处理相关着色器程序,诸如但不限于顶点着色器、镶嵌着色器、几何着色器和像素着色器。并行处理单元202可以从系统存储器经由i/o单元204输送数据以用于处理。在处理期间,所输送的数据可以在处理期间被存储到芯片上存储器(例如并行处理器存储器222),然后被写回到系统存储器。在一个实施例中,当并行处理单元202用于执行图形处理时,调度器210可以配置成将处理工作负载划分成近似相等大小的任务,以更好地使得能够实现图形处理操作向处理集群阵列212的多个集群214a-214n的分发。在一些实施例中,处理集群阵列212的部分可以配置成执行不同类型的处理。例如,第一部分可以配置成执行顶点着色和拓扑生成,第二部分可以配置成执行镶嵌和几何着色,并且第三部分可以配置成执行像素着色或其它屏幕空间操作,以产生经渲染的图像以用于显示。由集群214a-214n中的一个或多个产生的中间数据可以存储在缓冲器中以允许在集群214a-214n之间传输该中间数据以用于进一步处理。在操作期间,处理集群阵列212可以经由调度器210接收要施行的处理任务,调度器210从前端208接收限定处理任务的命令。对于图形处理操作,处理任务可以包括要处理的数据的索引,所述数据例如表面(补丁)数据、基元数据、顶点数据和/或像素数据,以及状态参数和限定要如何处理该数据(例如要施行什么程序)的命令。调度器210可以配置成提取对应于任务的索引,或者可以从前端208接收索引。前端208可以配置成确保处理集群阵列212在由即将到来的命令缓冲器(例如批量缓冲器、推送缓冲器等)指定的工作负载被发起之前被配置成有效状态。并行处理单元202的所述一个或多个实例中的每一个可以与并行处理器存储器222耦合。可以经由存储器交叉条216访问并行处理器存储器222,存储器交叉条216可以从处理集群阵列212以及i/o单元204接收存储器请求。存储器交叉条216可以经由存储器接口218访问并行处理器存储器222。存储器接口218可以包括多个分区单元(例如分区单元220a、分区单元220b至分区单元220n),其每一个直接耦合到并行处理器存储器222的部分(例如存储器单元)。分区单元220a-220n的数目一般等于存储器单元的数目,使得第一分区单元220a具有对应的第一存储器单元224a,第二分区单元220b具有对应的存储器单元224b,并且第n分区单元220n具有对应的第n存储器单元224n。在其它实施例中,分区单元220a-220n的数目可以不等于存储器设备的数目。在各种实施例中,存储器单元224a-224n可以包括各种类型的存储器设备,包括动态随机存取存储器(dram)或图形随机存取存储器,诸如同步图形随机存取存储器(sgram),包括图形双数据速率(gddr)存储器。在一个实施例中,存储器单元224a-224n还可以包括3d堆叠式存储器,包括但不限于高带宽存储器(hbm)。本领域技术人员将领会到,存储器单元224a至224n的具体实现方式可以变化,并且可以选自各种常规设计之一。可以跨存储器单元224a至224n存储诸如帧缓冲器或纹理映射之类的渲染目标,从而允许分区单元220a至220n并行地写入每一个渲染目标的部分,以高效地使用并行处理器存储器222的可用带宽。在一些实施例中,为了有利于利用系统存储器结合本地高速缓存存储器的统一存储器设计,可以排除并行处理器存储器222的本地实例。在一个实施例中,处理集群阵列212的集群214a至214n中的任何一个可以处理要写入到并行处理器存储器222内的存储器单元224a至224n中的任何一个的数据。存储器交叉条216可以配置成将每一个集群214a至214n的输出路由至任何分区单元220a至220n的输入或另一集群214a至214n以用于进一步处理。每一个集群214a至214n可以通过存储器交叉条216与存储器接口218通信以便从各种外部存储器设备进行读取或写入到各种外部存储器设备。在一个实施例中,存储器交叉条216具有去到存储器接口218的连接以与i/o单元204通信,以及去到并行处理器存储器222的本地实例的连接,从而使得不同处理集群214a至214n内的处理单元能够与系统存储器或并非在并行处理单元202本地的其它存储器通信。在一个实施例中,存储器交叉条216可以使用虚拟信道来分离集群214a至214n与分区单元220a至220n之间的业务流。虽然在并行处理器200内图示了并行处理单元202的单个实例,但是可以包括并行处理单元202的任何数目的实例。例如,可以在单个插件卡上提供并行处理单元202的多个实例,或者可以互连多个插件卡。即便不同实例具有不同的数目的处理核、不同量的本地并行处理器存储器和/或其它配置差异,并行处理单元202的不同实例也可以配置成互操作。例如并且在一个实施例中,并行处理单元202的一些实例可以包括相对于其它实例更高精度的浮点单元。合并并行处理单元202或并行处理器200的一个或多个实例的系统可以按各种配置和形状因子实现,包括但不限于台式机、膝上型电脑或手持个人计算机、服务器、工作站、游戏控制台和/或嵌入式系统。图2b是根据实施例的分区单元220的框图。在一个实施例中,分区单元220是图2a的分区单元220a至220n中的一个的实例。如所图示的,分区单元220包括l2高速缓存221、帧缓冲器接口225和rop226(栅格操作单元)。l2高速缓存221是配置成执行从存储器交叉条216和rop226接收的加载和存储操作的读取/写入高速缓存。由l2高速缓存221向帧缓冲器接口225输出读取未命中和紧急写回请求以用于处理。还可以经由帧缓冲器接口225向帧缓冲器发送脏更新以用于伺机处理。在一个实施例中,帧缓冲器接口225与并行处理器存储器中的存储器单元(诸如图2的存储器单元224a至224n(例如,在并行处理器存储器222内))中的一个对接。在图形应用中,rop226是执行诸如模板、z测试、混合等之类的栅格操作并且输出作为经处理的图形数据的像素数据以用于存储在图形存储器中的处理单元。在一些实施例中,rop226可以配置成压缩写入到存储器的z或颜色数据,并且解压缩从存储器读取的z或颜色数据。在一些实施例中,rop226被包括在每一个处理集群(例如,图2的集群214a至214n)内而不是在分区单元220内。在这样的实施例中,通过存储器交叉条216而不是像素分片数据来传输针对像素数据的读取和写入请求。经处理的图形数据可以显示在显示设备(诸如图1的所述一个或多个显示设备110中的一个)上,被路由以用于由(多个)处理器102路由,或者被路由以用于由图2a的并行处理器200内的处理实体中的一个进一步处理。图2c是根据实施例的并行处理单元内的处理集群214的框图。在一个实施例中,处理集群是图2的处理集群214a至214n中的一个的实例。处理集群214可以配置成并行施行许多线程,其中术语“线程”是指在特定输入数据集合上施行的特定程序的实例。在一些实施例中,单指令多数据(simd)指令发布技术用于支持大数目的线程的并行施行,而不提供多个独立的指令单元。在其它实施例中,通过使用配置成向处理集群中的每一个内的处理引擎集合发布指令的公共指令单元,单指令多线程(simt)技术用于支持大数目的大体同步的线程的并行施行。不同于其中所有处理引擎典型地施行相同指令的simd施行体制,simt施行允许不同的线程更容易地遵循穿过给定线程程序的发散施行路径。本领域技术人员将理解到,simd处理体制表示simt处理体制的功能子集。处理集群214的操作可以经由向simt并行处理器分发处理任务的流水线管理器232来控制。流水线管理器232从图2的调度器210接收指令并且经由图形多处理器234和/或纹理单元236来管理那些指令的施行。所图示的图形多处理器234是simt并行处理器的示例性实例。然而,不同架构的各种类型的simt并行处理器可以被包括在处理集群214内。图形多处理器234的一个或多个实例可以被包括在处理集群214内。图形多处理器234可以处理数据,并且数据交叉条240可以用于将经处理的数据分发到包括其它着色器单元的多个可能目的地中的一个。流水线管理器232可以通过为要经由数据交叉条240进行分发的经处理的数据指定目的地来促进经处理的数据的分发。处理集群214内的每一个图形多处理器234可以包括相同的功能施行逻辑集合(例如,算术逻辑单元、加载-存储单元等),所述功能执行逻辑可以被流水线化,从而允许在完成先前的指令之前发布新的指令。可以提供功能施行逻辑的任何组合。在一个实施例中,功能逻辑支持各种运算,包括整数和浮点算数(例如加法和乘法)、比较运算、布尔运算(与、或、异或)、移位和各种代数函数(例如平面内插、三角学、指数和对数函数等)的计算;并且可以利用相同的功能单元硬件执行不同的运算。传输至处理集群214的指令系列构成线程,如本文之前所限定的,并且在本文中将跨图形多处理器234内的并行处理引擎(未示出)的某个数目的并发施行线程的集合称为线程组。如本文所使用的,线程组是指在不同的输入数据上并发地施行相同程序的线程组,其中组的一个线程被指派到图形多处理器234内的不同处理引擎。线程组可以包括比图形多处理器234内的处理引擎的数目更少的线程,在此情况下,当该线程组正在被处理时,一些处理引擎在循环期间将是空闲的。线程组还可以包括比图形多处理器234内的处理引擎的数目更多的线程,在此情况下,将在接连的时钟循环内发生处理。每一个图形多处理器234可以并发地支持高达g个线程组。此外,在图形多处理器234内,多个相关线程组可以同时是活跃的(在施行的不同阶段中)。在一个实施例中,图形多处理器234包括执行加载和存储操作的内部高速缓存存储器。在一个实施例中,图形多处理器234可以放弃内部高速缓存并且在处理集群214内使用高速缓存存储器(例如,l1高速缓存308)。每一个图形多处理器234还能够访问在所有处理集群214之中共享的分区单元(例如,图2的分区单元220a至220n)内的l2高速缓存,并且可以用于在线程之间输送数据。图形多处理器234还可以访问芯片外全局存储器,所述芯片外全局存储器可以包括本地并行处理器存储器和/或系统存储器中的一个或多个。并行处理单元202外部的任何存储器可以用作全局存储器。其中处理集群214包括图形多处理器234的多个实例的实施例可以共享可以在l1高速缓存308中存储的公共指令和数据。每一个处理集群214可以包括配置成将虚拟地址映射到物理地址中的mmu245(存储器管理单元)。在其它实施例中,mmu245的一个或多个实例可以驻留在图2的存储器接口218内。mmu245包括用于将虚拟地址映射到拼块(tile)(更多地谈论拼块化)的物理地址和可选地高速缓存线索引的页面表条目(pte)的集合。mmu245可以包括可以驻留在图形多处理器234或l1高速缓存或处理集群214内的地址转译旁视缓冲器(tlb)或高速缓存。处理物理地址以分发表面数据访问本地性以允许分区单元之中的高效请求交错。高速缓存线索引可以用于确定对高速缓存线的请求是命中还是未命中。在图形和计算应用中,处理集群214可以配置成使得每一个图形多处理器234耦合到纹理单元236以用于执行纹理映射操作,例如确定纹理样本位置、读取纹理数据和对纹理数据进行滤波。从内部纹理l1高速缓存(未示出)或者在一些实施例中从图形多处理器234内的l1高速缓存读取纹理数据,并且根据需要从l2高速缓存、本地并行处理器存储器或系统存储器提取纹理数据。每一个图形多处理器234向数据交叉条240输出经处理的任务以向另一处理集群214提供经处理的任务以用于进一步处理或经由存储器交叉条216在l2高速缓存、本地并行处理器存储器或系统存储器中存储经处理的任务。prerop242(预先栅格操作单元)配置成从图形多处理器234接收数据,将数据引导至rop单元,所述rop单元可以如本文所描述的那样利用分区单元(例如,图2的分区单元220a至220n)定位。所述prerop242单元可以执行优化以用于颜色混合,组织像素颜色数据并且执行地址转译。将领会到,本文所描述的核架构是说明性的,并且变型和修改是可能的。例如,可以在处理集群214内包括任何数目的处理单元,例如图形多处理器234、纹理单元236、prerop242等。另外,虽然仅示出一个处理集群214,但如本文所描述的并行处理单元可以包括处理集群214的任何数目的实例。在一个实施例中,每一个处理集群214可以配置成使用分离且不同的处理单元、l1高速缓存等来独立于其它处理集群214而操作。图2d示出根据一个实施例的图形多处理器234。在这样的实施例中,图形多处理器234与处理集群214的流水线管理器232耦合。图形多处理器234具有施行流水线,包括但不限于指令高速缓存252、指令单元254、地址映射单元256、寄存器文件258、一个或多个通用图形处理单元(gpgpu)核262和一个或多个加载/存储单元266。gpgpu核262和加载/存储单元266经由存储器和高速缓存互连268与高速缓存存储器272和共享存储器270耦合。在一个实施例中,指令高速缓存252从流水线管理器232接收要施行的指令流。将指令高速缓存在指令高速缓存252中并且对其进行分派以用于由指令单元254施行。指令单元254可以将指令作为线程组(例如,线束(wrap))进行分派,其中线程组的每一个线程被指派到gpgpu核262内的不同施行单元。指令可以通过在统一地址空间内指定地址来访问本地、共享或全局地址空间中的任何一个。地址映射单元256可以用于将统一地址空间中的地址转译成可以由加载/存储单元266访问的不同存储器地址。寄存器文件258为图形多处理器324的功能单元提供寄存器集合。寄存器文件258为连接至图形多处理器324的功能单元(例如,gpgpu核262、加载/存储单元266)的数据路径的操作数提供临时存储。在一个实施例中,在功能单元中的每一个之间划分寄存器文件258,使得每一个功能单元被分配寄存器文件258的专用部分。在一个实施例中,在正由图形多处理器324施行的不同线束之间划分寄存器文件258。gpgpu核262可以每一个包括用于施行图形多处理器324的指令的浮点单元(fpu)和/或整数算数逻辑单元(alu)。根据实施例,gpgpu核262在架构方面可以类似,或者在架构方面可以不同。例如并且在一个实施例中,gpgpu核262的第一部分包括单精度fpu和整数alu,而gpgpu核的第二部分包括双精度fpu。在一个实施例中,fpu可以实现用于浮点算数的ieee754-2008标准或使得能够实现可变精度浮点算数。此外,图形多处理器324可以包括执行诸如拷贝矩形或像素混合操作之类的具体功能的一个或多个固定功能或特殊功能单元。在一个实施例中,gpgpu核中的一个或多个还可以包括固定或特殊功能逻辑。存储器和高速缓存互连268是互连网络,所述互连网络将图形多处理器324的功能单元中的每一个连接至寄存器文件258和共享存储器270。在一个实施例中,存储器和高速缓存互连268是允许加载/存储单元266在共享存储器270与寄存器文件258之间实现加载和存储操作的交叉条互连。在一个实施例中,共享存储器270可以用于使得能够实现在功能单元上施行的线程之间的通信。例如,高速缓存存储器272可以用作数据高速缓存,以高速缓存在功能单元与纹理单元236之间传送的纹理数据。图3a至图3b图示了根据实施例的附加图形多处理器。所图示的图形多处理器325、350是图2c的图形多处理器234的变型。所图示的图形多处理器325、350可以配置为能够同时施行大数目的施行线程的串流式多处理器(sm)。图3a示出根据附加实施例的图形多处理器325。图形多处理器325包括相对于图2d的图形多处理器234的施行资源单元的多个附加实例。例如,图形多处理器325可以包括指令单元332a-332b、寄存器文件334a-334b和(多个)纹理单元344a-344b的多个实例。图形多处理器325还包括图形或计算施行单元(例如,gpgpu核336a-336b、gpgpu核337a-337b、gpgpu核338a-338b)的多个集合和加载/存储单元340a-340b的多个集合。在一个实施例中,施行资源单元具有公共指令高速缓存330、纹理和/或数据高速缓存存储器342和共享存储器346。各种组件可以经由互连结构327进行通信。在一个实施例中,互连结构327包括一个或多个交叉条开关,以使得能够实现图形多处理器325的各种组件之间的通信。图3b示出根据附加实施例的图形多处理器350。如图2d和图3a中所图示的,图形处理器包括施行资源356a-356d的多个集合,其中施行资源的每一个集合包括多个指令单元、寄存器文件、gpgpu核和加载存储单元。施行资源356a-356d可以与(多个)纹理单元360a-360d合作地工作以用于纹理操作,而同时共享指令高速缓存354和共享存储器362。在一个实施例中,施行资源356a-356d可以共享指令高速缓存354和共享存储器362以及纹理和/或数据高速缓存存储器358a-358b的多个实例。各种组件可以经由与图3a的互连结构327类似的互连结构352进行通信。本领域技术人员将理解到,图1、2a-2d和3a-3b中所描述的架构是描述性的,并且关于本实施例的范围不是限制性的。因此,本文所描述的技术可以在任何经适当配置的处理单元上实现,包括而没有限制,一个或多个移动应用处理器、一个或多个台式机或服务器中央处理单元(cpu),包括多核cpu、一个或多个并行处理单元,诸如图2的并行处理单元202,以及一个或多个图形处理器或专用处理单元,而不脱离本文所描述的实施例的范围。在一些实施例中,如本文所描述的并行处理器或gpgpu通信耦合到主机/处理器核以加速图形操作、机器学习操作、图案分析操作和各种通用gpu(gpgpu)功能。gpu可以通过总线或其它互连(例如,诸如pcie或nvlink之类的高速互连)通信耦合到主机处理器/核。在其它实施例中,gpu可以与核集成在相同的封装或芯片上,并且通过内部处理器总线/互连(即,在封装或芯片内部)通信耦合到核。无论以其连接gpu的方式如何,处理器核都可以按工作描述符中所包含的命令/指令序列的形式向gpu分配工作。gpu然后使用专用电路/逻辑以用于高效地处理这些命令/指令。用于使gpu到主机处理器互连的技术图4a图示了其中多个gpu410-413通过高速链路440-443(例如,总线、点对点互连等)通信耦合到多个多核处理器405-406的示例性架构。在一个实施例中,高速链路440-443取决于实现方式而支持4gb/s、30gb/s、80gb/s或更高的通信吞吐量。可以使用各种互连协议,包括但不限于pcie4.0或5.0和nvlink2.0。然而,本发明的底层原理不限于任何特定的通信协议或吞吐量。此外,在一个实施例中,gpu410-413中的两个或更多个通过高速链路444-445互连,这可以使用与用于高速链路440-443的那些相同或不同的协议/链路来实现。类似地,多核处理器405-406中的两个或更多个可以通过高速链路433连接,高速链路433可以是操作在20gb/s、30gb/s、120gb/s或更高处的对称多处理器(smp)总线。可替换地,图4a中所示的各种系统组件之间的所有通信可以使用相同的协议/链路(例如,通过公共互连结构)来实现。然而,如所提及的,本发明的底层原理不限于任何特定类型的互连技术。在一个实施例中,每一个多核处理器405-406分别经由存储器互连430-431通信耦合到处理器存储器401-402,并且每一个gpu410-413分别通过gpu存储器互连450-453通信耦合到gpu存储器420-423。存储器互连430-431和450-453可以利用相同或不同的存储器访问技术。通过示例而非限制的方式,处理器存储器401-402和gpu存储器420-423可以是诸如动态随机存取存储器(dram)(包括堆叠式dram)、图形ddrsdram(gddr)(例如,gddr5、gddr6)或高带宽存储器(hbm)之类的易失性存储器,和/或可以是诸如3dxpoint或nano-ram之类的非易失性存储器。在一个实施例中,存储器的某个部分可以是易失性存储器,而另一部分可以是非易失性存储器(例如,使用两级存储器(2lm)分层结构)。如以下所描述的,尽管各种处理器405-406和gpu410-413可以分别物理耦合到特定存储器401-402、420-423,但是可以实现统一存储器架构,其中相同的虚拟系统地址空间(也称为“有效地址”空间)分布在所有的各种物理存储器之中。例如,处理器存储器401-402可以每一个包括系统存储器地址空间的64gb,并且gpu存储器420-423可以每一个包括系统存储器地址空间的32gb(导致该示例中的总共256gb的可寻址存储器)。图4b图示了依照一个实施例的多核处理器407与图形加速模块446之间的互连的附加细节。图形加速模块446可以包括集成在经由高速链路440耦合至处理器407的线卡上的一个或多个gpu芯片。可替换地,图形加速模块446可以集成在与处理器407相同的封装或芯片上。所图示的处理器407包括多个核460a-460d,每一个具有转译旁视缓冲器461a-461d和一个或多个高速缓存462a-462d。核可以包括用于施行指令和处理数据的各种其它组件(例如,指令提取单元、分支预测单元、解码器、施行单元、重排序缓冲器等),所述其它组件未被图示,以避免模糊本发明的底层原理。高速缓存462a-462d可以包括1级(l1)和2级(l2)高速缓存。此外,一个或多个共享高速缓存426可以被包括在高速缓存分层结构中并且由核460a-460d的集合共享。例如,处理器407的一个实施例包括24个核,每一个具有它自己的l1高速缓存、12个共享l2高速缓存和12个共享l3高速缓存。在该实施例中,l2和l3高速缓存中的一个由两个相邻核共享。处理器407和图形加速器集成模块446与系统存储器441连接,所述系统存储器441可以包括处理器存储器401-402。通过一致性总线464经由核间通信来为存储在各种高速缓存462a-462d、456和系统存储器441中的数据和指令维持一致性。例如,每一个高速缓存可以具有与其相关联的高速缓存一致性逻辑/电路,以响应于对特定高速缓存线的所检测到的读取或写入而通过一致性总线464进行通信。在一个实现方式中,通过一致性总线464实现高速缓存监听协议以监听高速缓存访问。高速缓存监听/一致性技术由本领域技术人员良好地理解,并且在此将不详细描述,以避免模糊本发明的底层原理。在一个实施例中,代理电路425将图形加速模块446通信耦合至一致性总线464,从而允许图形加速模块446作为核的对等体参与高速缓存一致性协议。特别地,接口435通过高速链路440(例如,pcie总线、nvlink等)提供对代理电路425的连接性,并且接口437将图形加速模块446连接至链路440。在一个实现方式中,加速器集成电路436代表图形加速模块446的多个图形处理引擎431、432、n提供高速缓存管理、存储器访问、上下文管理和中断管理服务。图形处理引擎431、432、n可以每一个包括分离的图形处理单元(gpu)。可替换地,图形处理引擎431、432、n可以在gpu内包括不同类型的图形处理引擎,诸如图形施行单元、媒体处理引擎(例如,视频编码器/解码器)、采样器和块传输引擎。换言之,图形加速模块可以是具有多个图形处理引擎431-432、n的gpu,或图形处理引擎431-432、43n可以是集成在公共封装、线卡或芯片上的单独gpu。在一个实施例中,加速器集成电路436包括存储器管理单元(mmu)439,以用于执行诸如虚拟到物理存储器转译(也称为有效到实际存储器转译)之类的各种存储器管理功能和用于访问系统存储器441的存储器访问协议。mmu439还可以包括用于高速缓存虚拟/有效到物理/实际地址转译的转译旁视缓冲器(tlb)(未示出)。在一个实现方式中,高速缓存438存储用于由图形处理引擎431-432、n高效访问的命令和数据。在一个实施例中,保持存储在高速缓存438和图形存储器433-434、n中的数据与核高速缓存462a-462d、456和系统存储器411一致。如所提及的,这可以经由代理电路425来完成,所述代理电路425代表高速缓存438和存储器433-434、n参与高速缓存一致性机制(例如,向高速缓存438发送涉及处理器高速缓存462a-462d、456上的高速缓存线的修改/访问的更新并从高速缓存438接收更新)。寄存器445的集合存储针对由图形处理引擎431-432、n施行的线程的上下文数据,并且上下文管理电路448管理线程上下文。例如,上下文管理电路448可以执行保存和恢复操作以在上下文切换期间保存和恢复各种线程的上下文(例如,其中第一线程被保存并且第二线程被存储,使得第二线程可以由图形处理引擎施行)。例如,在上下文切换时,上下文管理电路448可以将当前寄存器值存储到存储器中的指定区(例如,由上下文指针标识)。其然后可以在返回到该上下文时恢复寄存器值。在一个实施例中,中断管理电路447接收和处理从系统设备所接收的中断。在一个实现方式中,由mmu439将来自图形处理引擎431的虚拟/有效地址转译成系统存储器411中的实际/物理地址。加速器集成电路436的一个实施例支持多个(例如,4个、8个、16个)图形加速器模块446和/或其它加速器设备。图形加速器模块446可以专用于在处理器407上施行的单个应用,或者可以在多个应用之间共享。在一个实施例中,呈现虚拟化的图形施行环境,其中与多个应用或虚拟机(vm)共享图形处理引擎431-432、n的资源。资源可以被细分成基于与vm和/或应用相关联的处理要求和优先级而分配给不同的vm和/或应用的“切片”。因此,加速器集成电路充当用于图形加速模块446的去到系统的桥接器,并且提供地址转译和系统存储器高速缓存服务。此外,加速器集成电路436可以为主机处理器提供虚拟化设施以管理图形处理引擎、中断和存储器管理的虚拟化。由于图形处理引擎431-432、n的硬件资源明确地映射到由主机处理器407看到的实际地址空间,因此任何主机处理器可以使用有效地址值对这些资源直接寻址。在一个实施例中,加速器集成电路436的一个功能是图形处理引擎431-432、n的物理分离,使得它们对系统而言看起来作为独立单元。如所提及的,在所图示的实施例中,一个或多个图形存储器433-434、m分别耦合至图形处理引擎431-432、n中的每一个。图形存储器433-434、m存储正由图形处理引擎431-432、n中的每一个处理的指令和数据。图形存储器433-434、m可以是诸如dram(包括堆叠式dram)、gddr存储器(例如,gddr5、gddr6)或hbm之类的易失性存储器,和/或可以是诸如3dxpoint或nano-ram之类的非易失性存储器。在一个实施例中,为了减少链路440之上的数据业务量,使用偏置技术以确保图形存储器433-434、m中所存储的数据是将由图形处理引擎431-432、n最频繁使用、并且优选地不由核460a-460d使用(至少不频繁使用)的数据。类似地,偏置机制试图将由核(并且优选地不是图形处理引擎431-432、n)所需要的数据保持在核和系统存储器411的高速缓存462a-462d、456内。图4c图示了其中加速器集成电路436集成在处理器407内的另一实施例。在该实施例中,图形处理引擎431-432、n经由接口437和接口435直接通过高速链路440与加速器集成电路436进行通信(这再次可以利用任何形式的总线或接口协议)。加速器集成电路436可以执行与关于图4b所描述的那些相同的操作,但是考虑到其与一致性总线462和高速缓存462a-462d、426的紧密接近性,潜在地以更高的吞吐量执行。一个实施例支持不同的编程模型,包括专用过程编程模型(没有图形加速模块虚拟化)和共享编程模型(具有虚拟化)。后者可以包括由加速器集成电路436控制的编程模型和由图形加速模块446控制的编程模型。在专用过程模型的一个实施例中,图形处理引擎431-432、n在单个操作系统下专用于单个应用或过程。单个应用可以将其它应用请求漏斗式集中(funnel)到图形引擎431-432、n,从而提供vm/分区内的虚拟化。在专用过程编程模型中,图形处理引擎431-432、n可以由多个vm/应用分区共享。共享模型要求系统管理程序以虚拟化图形处理引擎431-432、n,以允许由每一个操作系统的访问。对于没有管理程序的单分区系统,图形处理引擎431-432、n由操作系统所有。在两种情况下,操作系统都可以虚拟化图形处理引擎431-432、n以提供对每一个过程或应用的访问。对于共享编程模型,图形加速模块446或单独的图形处理引擎431-432、n使用过程句柄来选择过程元素。在一个实施例中,过程元素被存储在系统存储器411中并且可使用本文所描述的有效地址到实际地址转译技术来寻址。过程句柄可以是在向图形处理引擎431-432、n登记其上下文(也就是说,调用系统软件以向过程元素链接表添加过程元素)时,向主机过程提供的实现方式特定值。过程句柄的低16位可以是过程元素在过程元素链接表内的偏移量。图4d图示了示例性加速器集成切片490。如本文所使用的,“切片”包括加速器集成电路436的处理资源的指定部分。系统存储器411内的应用有效地址空间482存储过程元素483。在一个实施例中,过程元素483响应于来自在处理器407上施行的应用480的gpu调用481而被存储。过程元素483包含针对对应应用480的过程状态。过程元素483中所包含的工作描述符(wd)484可以是应用所请求的单个作业,或者可以包含去到作业队列的指针。在后一种情况下,wd484是去到应用的地址空间482中的作业请求队列的指针。图形加速模块446和/或单独的图形处理引擎431-432、n可以由系统中的过程的全部或子集共享。本发明的实施例包括用于设立过程状态并向图形加速模块446发送wd484以在虚拟化环境中开始作业的基础设施。在一个实现方式中,专用过程编程模型是特定于实现方式的。在该模型中,单个过程拥有图形加速模块446或单独的图形处理引擎431。由于图形加速模块446由单个过程所有,因此管理程序初始化加速器集成电路436以得到所拥有的分区,并且操作系统在指派图形加速模块446时初始化加速器集成电路436以得到所拥有的过程。在操作中,加速器集成切片490中的wd提取单元491提取下一wd484,所述下一wd484包括要由图形加速模块446的图形处理引擎之一完成的工作的指示。如所图示的,来自wd484的数据可以被存储在寄存器445中并由mmu439、中断管理电路447和/或上下文管理电路446使用。例如,mmu439的一个实施例包括用于访问os虚拟地址空间485内的段/页面表486的段/页面走行(walk)电路。中断管理电路447可以处理从图形加速模块446接收的中断事件492。当执行图形操作时,由图形处理引擎431-432、n生成的有效地址493由mmu439转译成实际地址。在一个实施例中,寄存器445的相同集合针对每一个图形处理引擎431-432、n和/或图形加速模块446进行复制,并且可以由管理程序或操作系统初始化。这些经复制的寄存器中的每一个可以被包括在加速器集成切片490中。在表1中示出可以由管理程序初始化的示例性寄存器。表1–经管理程序初始化的寄存器1切片控制寄存器2经实际地址(ra)调度的进程区域指针3权限掩蔽超驰寄存器4中断向量表条目偏移5中断向量表条目限制6状态寄存器7逻辑分区id8实际地址(ra)管理程序加速器利用记录指针9存储描述寄存器表2中示出可以由操作系统初始化的示例性寄存器。表2–经操作系统初始化的寄存器1过程和线程识别2有效地址(ea)上下文保存/恢复指针3虚拟地址(va)加速器利用记录指针4虚拟地址(va)存储段表指针5权限掩蔽6工作描述符在一个实施例中,每一个wd484特定于特定图形加速模块446和/或图形处理引擎431-432、n。其包含图形处理引擎431-432、n完成其工作所要求的所有信息,或者其可以是去到其中应用已经设立要完成的工作命令队列的存储器位置的指针。图4e图示了针对共享模型的一个实施例的附加细节。该实施例包括其中存储过程元素列表499的管理程序实际地址空间498。管理程序实际地址空间498可经由管理程序496访问,所述管理程序496虚拟化针对操作系统495的图形加速模块引擎。共享编程模型允许来自系统中的分区中的全部或子集的过程的全部或子集使用图形加速模块446。存在两种编程模型,其中图形加速模块446由多个过程和分区共享:时间切片化共享和图形定向共享。在该模型中,系统管理程序496拥有图形加速模块446并且使其功能可用于所有操作系统495。为了使图形加速模块446支持通过系统管理程序496的虚拟化,图形加速模块446可以遵循以下要求:1)应用的作业请求必须是自主的(也就是说,不需要在作业之间维持状态),或者图形加速模块446必须提供上下文保存和恢复机制。2)由图形加速模块446保证在指定时间量内完成应用的作业请求,包括任何转译错误,或者图形加速模块446提供抢占作业处理的能力。3)当在定向共享编程模型中操作时,必须保证图形加速模块446在过程之间的公平性。在一个实施例中,对于共享模型,应用480是必需的以便利用图形加速模块446类型、工作描述符(wd)、权限掩蔽寄存器(amr)值和上下文保存/恢复区域指针(csrp)来做出操作系统495系统调用。图形加速模块446类型描述用于系统调用的所瞄准的加速功能。图形加速模块446类型可以是系统特定的值。具体地针对图形加速模块446来格式化wd,并且wd可以是以下面形式:图形加速模块446命令、去到用户定义的结构的有效地址指针、去到命令队列的有效地址指针,或描述要由图形加速模块446完成的工作的任何其它数据结构。在一个实施例中,amr值是用于当前过程的amr状态。传递到操作系统的值类似于设定amr的应用。如果加速器集成电路436和图形加速模块446实现方式不支持用户权限掩蔽超驰寄存器(uamor),操作系统可以在传递管理程序调用中的amr之前向amr值应用当前uamor值。在将amr置于过程元素483中之前,管理程序496可以可选地应用当前权限掩蔽超驰寄存器(amor)值。在一个实施例中,csrp是包含应用的地址空间482中的用于使图形加速模块446保存和恢复上下文状态的区域的有效地址的寄存器445中的一个。如果不要求在作业之间保存状态或当作业被抢占时,该指针是可选的。上下文保存/恢复区域可以是固定的(pinned)系统存储器。在接收到系统调用时,操作系统495可以验证应用480已经登记并且被给出权限使用图形加速模块446。操作系统495然后利用表3中所示的信息来调用管理程序496。表3-os对管理程序的调用参数1工作描述符(wd)2权限掩蔽寄存器(amr)值(潜在地被掩蔽)3有效地址(ea)上下文保存/恢复区域指针(csrp)4过程id(pid)和可选的线程id(tid)5虚拟地址(va)加速器利用记录指针(aurp)6存储段表指针(sstp)的虚拟地址7逻辑中断服务号(lisn)在接收到管理程序调用时,管理程序496验证操作系统495已经登记并且被给出权限使用图形加速模块446。管理程序496然后将过程元素483放置到针对对应的图形加速模块446类型的过程元素链接表中。过程元素可以包含表4中所示的信息。表4–过程元素信息1工作描述符(wd)2权限掩蔽寄存器(amr)值(潜在地经掩蔽)3有效地址(ea)上下文保存/恢复区域指针(csrp)4过程id(pid)和可选的线程id(tid)5虚拟地址(va)加速器利用记录指针(aurp)6存储段表指针(sstp)的虚拟地址7逻辑中断服务号(lisn)8中断向量表,从管理程序调用参数导出9状态寄存器(sr)值10逻辑分区id(lpid)11实际地址(ra)管理程序加速器利用记录指针12存储描述符寄存器(sdr)在一个实施例中,管理程序初始化寄存器445的多个加速器集成切片490。如图4f中所图示的,本发明的一个实施例采用可经由用于访问物理处理器存储器401-402和gpu存储器420-423的公共虚拟存储器地址空间寻址的统一存储器。在该实现方式中,在gpu410-413上执行的操作利用相同的虚拟/有效存储器地址空间来访问处理器存储器401-402,并且反之亦然,从而简化可编程性。在一个实施例中,将虚拟/有效地址空间的第一部分分配到处理器存储器401,将第二部分分配到第二处理器存储器402,将第三部分分配到gpu存储器420,以此类推。整个虚拟/有效存储器空间(有时称为有效地址空间)由此跨处理器存储器401-402和gpu存储器420-423中的每一个分布,从而允许任何处理器或gpu访问具有映射到该存储器的虚拟地址的任何物理存储器。在一个实施例中,mmu439a-439e中的一个或多个内的偏置/一致性管理电路494a-494e确保主机处理器(例如,405)与gpu410-413的高速缓存之间的高速缓存一致性,并且还实现指示其中应当存储某些类型的数据的物理存储器的偏置技术。虽然在图4f中图示了偏置/一致性管理电路494a-494e的多个实例,但是偏置/一致性电路可以在一个或多个主机处理器405的mmu内和/或在加速器集成电路436内实现。一个实施例允许将gpu附接的存储器420-423映射为系统存储器的部分,并且使用共享虚拟存储器(svm)技术进行访问,但是不遭受与全系统高速缓存一致性相关联的典型性能缺陷。将gpu附接的存储器420-423作为系统存储器来访问而没有繁重的高速缓存一致性开销的能力为gpu卸载提供了有益的操作环境。该布置允许主机处理器405软件设立操作数并且访问计算结果,而没有传统i/odma数据副本的开销。这样的传统副本涉及驱动器调用、中断和存储器映射的i/o(mmio)访问,其相对于简单的存储器访问而言都是低效的。同时,在没有高速缓存一致性开销的情况下访问gpu附接的存储器420-423的能力对于经卸载的计算的施行时间而言可以是关键的。例如,在具有大量串流化写入存储器业务的情况下,高速缓存一致性开销可以显著降低由gpu410-413看到的有效写入带宽。操作数设立的效率、结果访问的效率以及gpu计算的效率全部在确定gpu卸载的有效性方面发挥着作用。在一个实现方式中,gpu偏置与主机处理器偏置之间的选择由偏置追踪器数据结构驱动。例如,可以使用偏置表,所述偏置表可以是每个gpu附接的存储器页面包括1位或2位的页面粒度结构(即,以存储器页面的粒度来控制)。偏置表可以在一个或多个gpu附接的存储器420-423的被盗存储器范围内实现,在gpu410-413中具有或没有偏置高速缓存(例如,以高速缓存频繁地/最近使用的偏置表的条目)。可替换地,可以在gpu内维护整个偏置表。在一个实现方式中,在实际访问gpu存储器之前访问与对gpu附接的存储器420-423的每次访问相关联的偏置表条目,从而导致以下操作。首先,将来自gpu410-413的在gpu偏置中找到其页面的本地请求直接转发到对应的gpu存储器420-423。将来自gpu的在主机偏置中找到其页面的本地请求转发至处理器405(例如,通过如以上所讨论的高速链路)。在一个实施例中,来自处理器405的在主机处理器偏置中找到所请求的页面的请求如正常存储器读取那样完成请求。可替换地,可以将针对gpu偏置页面的请求转发至gpu410-413。如果gpu当前未使用该页面,则gpu然后可以将该页面转变成主机处理器偏置。页面的偏置状态可以通过基于软件的机制、硬件辅助的基于软件的机制,或者对于有限的情况集合,纯粹基于硬件的机制来改变。用于改变偏置状态的一种机制采用api调用(例如opencl),所述api调用进而调用gpu的设备驱动器,所述设备驱动器进而向gpu发送消息(或将命令描述符入队),从而引导gpu改变偏置状态,并且对于一些转变,在主机中执行高速缓存清除操作。高速缓存清除操作对于从主机处理器405偏置到gpu偏置的转变是必需的,而是对于相反转变则不是必需的。在一个实施例中,通过临时渲染不可由主机处理器405高速缓存的经gpu偏置的页面来维持高速缓存一致性。为了访问这些页面,处理器405可以请求来自gpu410的访问,gpu410取决于实现方式而可以立即授予访问权限或者可以不立即授予访问权限。因此,为了减少处理器405与gpu410之间的通信,确保经gpu偏置的页面是gpu所必需的但不是主机处理器405所必需的那些是有益的,并且反之亦然。图形处理流水线图5是根据实施例的图形处理流水线500的概念图。在一个实施例中,图形处理器可以实现所图示的图形处理流水线500。图形处理器可以被包括在如本文所描述的并行处理子系统内,诸如图2的并行处理器200,在一个实施例中,所述并行处理器200是图1的(多个)并行处理器112的变型。如本文所描述的,各种并行处理系统可以经由并行处理单元(例如,图2的并行处理单元202)的一个或多个实例来实现图形处理流水线500。例如,着色器单元(例如,图3的图形多处理器234)可以配置成执行顶点处理单元504、镶嵌控制处理单元508、镶嵌评估处理单元512、几何处理单元516和分片/像素处理单元524中的一个或多个的功能。数据汇编器502、基元汇编器506、514、518、镶嵌单元510、栅格器522和栅格操作单元526的功能还可以由处理集群(例如,图3的处理集群214)内的其它处理引擎和对应的分区单元(例如,图2的分区单元220a-220n)执行。可替换地,图形处理流水线500可以使用用于一个或多个功能的专用处理单元来实现。在一个实施例中,图形处理流水线500的一个或多个部分可以由通用处理器(例如,cpu)内的并行处理逻辑执行。在一个实施例中,图形处理流水线500的一个或多个部分可以经由存储器接口528访问片上存储器(例如,如图2中的并行处理器存储器222),所述存储器接口528可以是图2的存储器接口218的实例。在一个实施例中,数据汇编器502是收集针对高阶表面和基元等的顶点数据并且向顶点处理单元504输出包括顶点属性的顶点数据的处理单元。顶点处理单元504是可编程施行单元,其配置成施行顶点着色器程序,从而如由顶点着色器程序所指定的那样点亮和变换顶点数据。例如,顶点处理单元504可以被编程为将顶点数据从面向对象的坐标表示(对象空间)变换到可替换地基于诸如世界空间或归一化设备坐标(ndc)空间之类的坐标系统。顶点处理单元504可以读取存储在高速缓存、本地或系统存储器中的数据以用于使用在处理顶点数据中。基元汇编器506的第一实例从顶点处理单元504接收顶点属性,从而如所需要的那样读取所存储的顶点属性,并且构造图形基元以用于由镶嵌控制处理单元508进行处理,其中图形基元包括如由各种图形处理应用编程接口(api)所支持的三角形、线段、点、补丁等等。镶嵌控制处理单元508将输入顶点视为针对几何补丁的控制点,并且将这些控制点从补丁的输入表示(通常称为补丁的基础)变换成适合于由镶嵌评估处理单元512进行高效表面评估的表示。镶嵌控制处理单元508还计算针对几何补丁的边缘的镶嵌因子。镶嵌因子应用于单个边缘,并且量化与边缘相关联的视图相关细节水平。镶嵌单元510配置成接收针对补丁的边缘的镶嵌因子并且将补丁镶嵌成多个几何基元,诸如线、三角形或四边形基元,将所述多个几何基元传输到镶嵌评估处理单元512。镶嵌评估处理单元512对细分的补丁的参数化坐标进行操作以生成针对与几何基元相关联的每个顶点的顶点属性和表面表示。基元汇编器514的第二实例从镶嵌评估处理单元512接收顶点属性,从而如所需要的那样读取所存储的顶点属性,并且构造图形基元以用于由几何处理单元516处理。几何处理单元516是可编程施行单元,所述可编程施行单元配置成施行几何着色器程序,从而变换如由几何着色器程序指定的从基元汇编器514接收的图形基元。例如,几何处理单元516可以被编程为将图形基元细分成一个或多个新的图形基元并且计算用于栅格化新的图形基元的参数,诸如平面方程系数。在一些实施例中,几何处理单元516还可以添加或删除几何流中的元素。几何处理单元516向基元汇编器518输出指定新的图形基元的参数和顶点,基元汇编器518从几何处理单元516接收参数和顶点,从而如所需要的那样读取所存储的顶点属性,并且构造图形基元以用于由视口缩放、剔除和裁剪单元520进行处理。几何处理单元516可以读取存储在并行处理器存储器或系统存储器中的数据以用于使用在处理几何数据中。视口缩放、剔除和裁剪单元520执行裁剪、剔除和视口缩放,并且向栅格器522输出经处理的图形基元。栅格器522扫描转换新的图形基元并且向分片/像素处理单元524输出分片和覆盖数据。此外,栅格器522可以配置成执行z剔除和其它基于z的优化。分片/像素处理单元524是配置成施行分片着色器程序或像素着色器程序的可编程施行单元。分片/像素处理单元524变换如由分片或像素着色器程序所指定的、从栅格器522接收的分片或像素。例如,分片/像素处理单元524可以被编程为执行诸如透视校正、纹理映射、着色、混合等之类的操作,以产生输出到栅格操作单元526的经着色的分片或像素。分片/像素处理单元524可以读取存储在并行处理器存储器或系统存储器中的数据,以用于使用在处理分片数据中。分片或像素着色器程序可以配置成取决于经编程的采样率以样本、像素、拼块或其它粒度进行着色。栅格操作单元526是执行诸如模板、z测试、混合等之类的栅格操作,并且将像素数据作为经处理的图形数据输出以用于存储在图形存储器中的处理单元。经处理的图形数据可以存储在图形存储器(例如如图2中的并行处理器存储器222)和/或如图1中的系统存储器104中,以用于在所述一个或多个显示设备110中的一个上显示,或用于由所述一个或多个处理器102或(多个)并行处理器112中的一个进一步处理。在一些实施例中,栅格操作单元526配置成压缩写入到存储器的z或颜色数据,并且解压缩从存储器读取的z或颜色数据。粗糙粒度一致性本文所描述的实施例可以大幅减少针对硬件一致的gpgpu/cpu存储器访问所必需的系统监听带宽,因而改进性能并且降低用于异构处理应用的功率。在一个实施例中,以1千字节至4千字节的范围中的大粒度支持存储器一致性。如本文所描述的大粒度一致性不同于使用在现有实现方式中的高速缓存线一致性(例如64字节)。在一个实施例中,基于监听和基于目录的一致性的组合用于使得能够实现基于硬件的cpu和gpgpu高速缓存一致性。gpgpu和cpu可以每一个实现“所有权表”以追踪对于对给定存储器区的访问许可的所有权。代理(cpu或gpu)通过向系统发送限定代理正在请求针对其的所有权的存储器中的区的区监听来获取区的所有权。一旦该区的所有权由代理获取并且记录在与代理相关联的所有权表中,可以在没有任何监听请求的情况下执行对存储器区的随后访问。图6图示了根据实施例的具有异构硬件一致性的异构处理系统600。在一个实施例中,异构处理系统600包括多个处理器(cpu602a-602d)和gpgpu620。每一个cpu602a-602d和gpgpu620能够访问共享虚拟存储器(svm)。在一个实施例中,任何cpu602a-602d可以分配系统存储器640中的表面。然后可以通过将表面的地址映射到gpgpu620的虚拟存储器空间中来使表面对gpgpu620是可访问的。在一个实施例中,cpu602a-602d和gpgpu620可以经由不同的虚拟存储器地址访问相同的物理存储器。在一个实施例中,cpu602a-602d和gpgpu620具有统一的虚拟存储器空间,其中存储器640的至少部分可以由cpu602a-602d和gpgpu620使用相同的虚拟地址来访问。利用统一的虚拟存储器,cpu602a-602d上的过程可以向gpgpu620传递对表面的指针。每一个cpu602a-602d可以包括1级高速缓存(l1高速缓存604)、2级(l2高速缓存606)。l1高速缓存604可以包括用于指令和数据的分离部分。在一个实施例中,每一个cpu包括多个核。在这样的实施例中,每一个核具有l1高速缓存604的分离实例,而在核之间共享l2高速缓存606。在所有cpu602a-602d之间共享末级高速缓存(llc610)。多个cpu602a-602d可以经由llc610在它们之间和与gpgpu620共享数据。gpgpu620包括l1高速缓存621、l2高速缓存622和l3高速缓存(l3高速缓存622)。l1高速缓存621可以包括用于指令和数据的分离部分,或者可以是统一的高速缓存。l2高速缓存622可以包括多个高速缓存,包括渲染高速缓存或深度高速缓存。在一个实施例中,gpgpu620还包括本地存储器630。本地存储器630可以是板上dram存储器,例如,其中gpgpu620是插件卡或多芯片模块。在一个实施例中,本地存储器630是在gpgpu620的管芯上的sram存储器。本地存储器630还可以是与gpgpu620的封装上的嵌入式dram存储器。在高速缓存线的基础上管理cpu602a-602d和gpgpu620中的每一个高速缓存存储器。高速缓存内的高速缓存线的数目取决于每一个高速缓存线的大小和高速缓存的大小。高速缓存线的大小可以跨实施例而变化,并且各种高速缓存可以不使用相同大小的高速缓存线。在一个实施例中,cpu602a-602d的每一个高速缓存线是64字节,尽管并非所有的实施例都限于64字节高速缓存线。在这样的实施例中,gpgpu620也包括64字节高速缓存线。使得能够实现cpu602a-602d与gpgpu620之间的硬件管理的高速缓存一致性将显著简化对异构处理系统上的异构工作负载的编程。然而,由每个高速缓存线一致性引入的监听开销可以向系统中引入显著的开销。本文所描述的实施例使得能够经由粗糙粒度的一致性来实现cpu602a-602d与gpgpu620之间的硬件一致性,其中以千字节粒度来支持存储器一致性。可以经由超高速缓存线(例如超线)的使用来使得能够实现gpgpu620与多个cpu602a-602d之间的粗糙粒度一致性。超线是包括多个高速缓存线的粗糙粒度一致性单元。超线的大小可以跨实施例而变化。在一个实施例中,超线是1千字节区。在一个实施例中,超线是4千字节区。在一个实施例中,超线的大小可配置成高速缓存线的大小的n倍。例如,在64字节的高速缓存线大小的情况下,可以通过设定n=16来配置1千字节超线。可以经由多个数据结构和专用高速缓存存储器来使得能够实现在超线级的一致性。在一个实施例中,经由超线所有权表(slot632)、超线目录表(sdt642)和超线目录表高速缓存(sdtc612)的使用来使得能够实现一致性。slot632可以存储在gpgpu620的本地存储器630中。sdt642可以存储在可由cpu602a-602d和gpgpu620访问的系统存储器640中。sdtc612是可以存储超线目录表条目的高速缓存存储器。在一个实施例中,sdtc612是cpu602a-602d的管芯上高速缓存存储器。在一个实施例中,slot632用于指示针对gpgpu620的超线所有权。对于由gpu所有的超线内的高速缓存活动,没有一致性流是必需的,并且不要求由gpgpu620广播监听数据。在一个实施例中,slot632可以追踪是否在l3高速缓存624内高速缓存超线内的任何高速缓存线。虽然可以按超线级追踪高速缓存一致性,但是l3高速缓存624可以继续以高速缓存线粒度进行操作。在一个实施例中,cpu602a-602d和gpgpu620内的一个或多个内部高速缓存不是高速缓存一致的。例如,全局异构粗糙粒度系统一致性可能限于存储在gpgpu620的l3高速缓存623和在cpu602a-602d与gpgpu620之间共享的末级高速缓存610内的数据。在这样的实施例中,存储器640的区可以是已声明的共享虚拟存储器,其将是全局一致的并且共享虚拟存储器内的数据可以仅被高速缓存在参与全局异构粗糙粒度一致性系统中的高速缓存存储器中,从而绕过gpgpu620和/或cpu602a-602d中的较低级高速缓存存储器。sdt642是指示存储在dram内的超线的超线所有权的表。在一个实施例中,sdt642存储在“被盗”存储器中,所述存储器可由gpgpu620和cpu602a-602d访问,但是对cpu上施行的操作系统是不可访问的。在这样的实施例中,sdt642限于列出被盗存储器之外的超线的所有权。sdt642的大小可以基于超线的大小和存储器640的大小而变化。例如并且在一个实施例中,在2千字节超线的情况下,近似2兆字节的sdt642可以覆盖存储器的8吉字节。sdt642内的条目可以被高速缓存在sdtc612内。sdtc612可以按与tlb类似的方式起作用,在gpgpu620与cpu602a-602d之间共享tlb,其中针对sdt642的条目以与来自页面表的页面表条目存储在tlb中类似的方式高速缓存在sdtc612中。为了使异构处理系统600上的代理(cpu602a-602d或gpgpu620之一)取得超线的所有权,代理可以向系统发送区监听。一旦该区(例如一个或多个超线)的所有权被获取并且记录在相应的所有权表(例如sdt642、slot632)中,可以在不要求或触发监听请求的情况下做出对存储器区的随后访问。在一个实施例中,可以经由针对所有权操作的请求来执行区监听。针对所有权操作的请求可以在代理(例如gpgpu620)将试图执行对代理不具有针对其的当前所有权的超线的高速缓存线写入时使用。图7图示了根据实施例的用于粗糙粒度一致性的逻辑结构。在本文所描述的实施例中,可以按超线710的粒度在异构处理系统(例如图6的异构处理系统600)中使得能够实现粗糙粒度一致性。超线是大小为多个高速缓存线(例如高速缓存线a-n)的存储器区。系统内的代理(cpu、gpu等)可以发送针对地址范围的区监听。基于地址范围的大小和系统内的高速缓存存储器的关联性程度,可以将各种处理器高速缓存中的n个高速缓存线映射到由超线指定的地址范围。在一个实施例中,具有超线内的高速缓存线的所有高速缓存存储器将使那些高速缓存线映射到单个一致性状态。可以经由超线所有权表(例如图6的slot632)中的条目来追踪由gpgpu所有的信号线。示例性slot条目720包括超线标签(sl标签722)、一致性协议状态位的集合(例如mesi724)、每个高速缓存线有效位726的集合,和最近最少使用(lru)状态位728。sl标签722用于识别slot条目720针对其相关联的超线710。高速缓存一致性协议状态位通过粗糙粒度一致性系统来追踪与使用中的高速缓存一致性协议相关联的状态。mesi724(经修改的、排他的、共享的、无效的)由所图示的实施例使用,然而,其它实施例可以使用其它一致性协议,其中相应地适配实施例的一致性行为。例如,经修改的、排他的、共享的、无效的、转发中的(mesif)协议可以用于使得能够实现共享高速缓存线的高速缓存到高速缓存转发。每个高速缓存线有效位726指示针对超线710内的每一个高速缓存线的有效或无效状态。lru字段728位保持追踪针对slot条目720的针对存储该条目的任何高速缓存的最近最少使用状态。例如并且在一个实施例中,可以在gpgpu内的一致性高速缓存内高速缓存针对超线的slot条目720。sdt条目730可以存储在存储器中的超线目录表(例如图6的sdt642)中。在一个实施例中,sdt条目730是被存储用于存储器中的每一个超线的三位条目。对于每一个超线,共享/排他位(s/e732)用于指示超线处于共享状态中还是排他状态中。cpu位734和gpu位736指示所有权是驻留在cpu还是gpu内。sdtc条目740可以存储在超线目录表高速缓存(sdtc612)中,超线目录表高速缓存(sdtc612)是存储在cpu的处理器管芯内的高速缓存存储器。sdtc条目740包括识别超线的超线标签(sl标签742)、来自sdt条目730的经高速缓存的数据(例如s/e732、cpu位734、gpu位736)和lru字段748。在一个实施例中,基于超线的地址生成sl标签742。在一个实施例中,基于超线标签来索引sdt条目730,并且存储在sdtc条目740中的sl标签742是索引针对其高速缓存数据的sdt条目730的超线标签。针对sdtc条目740的lru字段748用于确定当取代高速缓存条目时从sdtc驱逐哪个条目,其中从sdtc驱逐最近最少使用的条目。在其中mesi或mesi兼容的一致性协议被启用以用于全局异构一致性的实施例中,如果超线处于经修改或排他的状态,可以仅写入超线。如果超线处于共享状态中,在代理执行具有全局一致性的写入之前使与超线相关联的所有高速缓存线无效。持有来自处于经修改的状态中的超线的高速缓存线的高速缓存监听来自针对对应主存储器位置的系统中的其它全局一致的高速缓存的试图读取,并且插入高速缓存中所持有的数据。在一个实施例中,可以通过使得所监听的读取后退、更新存储在存储器中的数据,然后将超线状态改变成共享状态来执行该操作。在一个实施例中,不允许一些代理将超线维持在经修改的状态中。例如并且在一个实施例中,gpgpu620可以将超线维持在经修改的状态,而cpu602a-602d限于共享或排他状态。持有与共享状态中的超线相关联的高速缓存线的高速缓存可以侦听来自其它全局一致的高速缓存的无效或请求所有权广播,并且如果相关联的超线被无效则丢弃该高速缓存线。在一个实施例中,当超线的所有权由代理取得时,与该超线相关联的所有高速缓存线转变成排他状态。图8是逻辑800使得能够实现异构处理系统中的粗糙粒度一致性的流程图。逻辑800可以跨异构处理系统(例如图6的异构处理系统600)的高速缓存管理系统分布,包括gpgpu内的l3高速缓存、cpu与gpgpu之间共享的末级高速缓存和系统内的一个或多个存储器控制器。在一个实施例中,逻辑800可以请求从异构处理系统的代理上施行的过程访问虚拟存储器地址,如块802处所示。作为响应,逻辑800可以确定代理是否具有与该虚拟地址相关联的超线的所有权,如块804处所示。超线中的所述多个高速缓存线中的至少一个与所请求的虚拟存储器地址相关联。逻辑800然后可以在块805处确定代理是否拥有超线。逻辑800可以通过检查与代理相关联的所有权目录来确定针对超线的所有权。参考图6,在代理是gpgpu的情况下,代理可以检查本地存储的超线所有权表(例如slot632)。在代理是cpu的情况下,如果错过对超线目录表高速缓存的访问,代理可以检查超线目录表高速缓存(例如sdtc612)或超线目录表(例如sdt642)。返回到图8,如果代理拥有超线,逻辑800可以允许代理可以访问虚拟存储器地址,如在块810处所示。当地址在所拥有的超线的范围内时,对虚拟存储器地址的访问可以在不导致或要求全局监听请求的情况下执行。在该场景中,具有与超线范围内的地址相关联的高速缓存线的任何其它代理将在所有权转移到代理时已经无效了那些高速缓存线。如果代理不拥有高速缓存线,如在块805处所确定的,逻辑800可以发送区监听以获得包括虚拟存储器地址的存储器区的所有权,如在块806处所示。区监听可以指示代理意图取得与所监听的区内的超线相关联的任何高速缓存线的所有权。在一个实施例中,区监听可以使得多个超线改变所有权。改变超线所有权可以使得由全局异构粗糙粒度一致性系统内的其它代理持有的任何高速缓存线被无效。那些高速缓存内的任何脏数据可以被驱逐和写回到存储器,并且在一些实施例中,转发至其它高速缓存存储器。一旦获得所有权,逻辑800然后可以在代理内的目录或所有权表内将超线设定成被拥有的状态,如在块808处所示。具体的被拥有状态可以跨实施例而变化。在一个实施例中,被拥有状态是可以在slot、sdt或sdtc条目内设定的排他状态,如图7中所示。将超线设定成被拥有状态可以允许代理在块810处访问虚拟存储器地址。图9是根据实施例的数据处理系统900的框图。数据处理系统900是具有处理器902、统一存储器910和gpgpu920的异构处理系统。处理器902可以是本文所描述的通用处理器或中央处理单元(cpu)中的任何一个。gpgpu920可以是本文所描述的gpgpu或并行处理器中的任何一个。在一个实施例中,处理器902和gpgpu920集成在片上系统集成电路内。在一个实施例中,处理器902和gpgpu920附接到分离的系统板。处理器902可以连接或焊接到母板插座。gpgpu920可以驻留在插件图形卡设备的板上并且经由诸如pcie总线之类的系统总线连接到系统。在一个实施例中,处理器902包括高速缓存存储器904和一致性模块905。高速缓存存储器904可以一致地高速缓存存储在一致的共享虚拟存储器中的数据。用于处理器902的一致性操作可以由一致性模块905执行。一致性模块905可以执行本文所描述的cpu侧一致性操作中的任何一个。处理器902可以施行存储在系统存储器912中的用于编译器915的指令。编译器915在处理器902上施行以将源代码914a编译成精编译的代码914b。经编译的代码914b可以包括可以由处理器902施行的代码和/或可以由gpgpu920施行的代码。在编译期间,编译器915可以执行操作以插入涉及源代码914a和经编译的源代码914b的各种特性和度量的元数据。编译器915可以包括执行这样的操作所必要的信息,或者操作可以在运行时库916的帮助下执行。运行时库916还可以在源代码914a的编译中促进编译器915,并且还可以包括在运行时处与经编译的代码914b链接以促进gpgpu920上的施行的指令。统一存储器910表示可以由处理器902和gpgpu920访问的统一地址空间。统一存储器包括系统存储器912以及gpgpu存储器918。gpgpu存储器918包括gpgpu920内的gpgpu本地存储器928,并且还可以包括系统存储器912中的一些或全部。例如,存储在系统存储器912中的经编译的代码914b还可以被映射到gpgpu存储器918中以用于由gpgpu920访问。gpgpu920包括多个计算块921a-921n,所述多个计算块921a-921n包括多个计算集群,诸如图2c的计算集群214。gpgpu920还包括寄存器924的集合、高速缓存存储器926和可以在计算块921a-921n之中共享的一致性模块925。一致性模块925可以配置成管理gpgpu920上的一致性操作,以使得能够实现针对共享虚拟存储器的全局异构粗糙粒度一致性。gpgpu920可以附加地包括gpgpu本地存储器928,gpgpu本地存储器928为与gpgpu920共享图形卡或多芯片模块的物理存储器。在一个实施例中,计算块921a-921n每一个包括tlb922a-922n和在计算块921a-921n内的计算集群之中共享的至少一个高速缓存923a-923n。在计算块的计算元件之中共享的公共资源可以通过试图调度将访问对相同计算块的公共数据的线程而被高效地利用。在一个实施例中,可以在gpgpu920处经由一致性模块925使得能够实现全局异构粗糙粒度一致性系统,一致性模块925可以执行本文所描述的gpu侧粗糙粒度一致性操作中的任何一个。可以在gpgpu920内的一个或多个高速缓存存储器(例如高速缓存923a-923n和/或共享高速缓存926)与处理器902内的高速缓存存储器904之间维持全局高速缓存一致性。附加示例性图形处理系统以上描述的实施例的细节可以被合并在以下描述的图形处理系统和设备内。图10至图23的图形处理系统和设备图示了可以实现以上所描述的任何和所有技术的替换系统和图形处理硬件。附加示例性图形处理系统概述图10是根据实施例的处理系统1000的框图。在各种实施例中,系统1000包括一个或多个处理器1002和一个或多个图形处理器1008,并且可以是单处理器桌面系统、多处理器工作站系统,或具有大数目的处理器1002或处理器核1007的服务器系统。在一个实施例中,系统1000是用于使用在移动式、手持式或嵌入式设备中的片上系统(soc)集成电路内所并入的处理平台。系统1000的实施例可以包括基于服务器的游戏平台、游戏控制台(包括游戏和媒体控制台、移动游戏控制台、手持式游戏控制台或在线游戏控制台)或被并入在其内。在一些实施例中,系统1000是移动电话、智能电话、平板计算设备或移动互联网设备。数据处理系统1000还可以包括诸如智能手表可穿戴设备、智能眼镜设备、增强现实设备或虚拟现实设备之类的可穿戴设备,与所述可穿戴设备耦合,或者集成在所述可穿戴设备内。在一些实施例中,数据处理系统1000是电视或机顶盒设备,所述电视或机顶盒设备具有一个或多个处理器1002以及由一个或多个图形处理器1008生成的图形界面。在一些实施例中,所述一个或多个处理器1002每一个包括处理指令的一个或多个处理器核1007,所述指令在被施行时执行用于系统和用户软件的操作。在一些实施例中,所述一个或多个处理器核1007中的每一个配置成处理特定指令集1009。在一些实施例中,指令集1009可以促进复杂指令集计算(cisc)、精简指令集计算(risc),或经由超长指令字(vliw)的计算。多个处理器核1007可以每一个处理不同的指令集1009,所述指令集1009可以包括促进其它指令集的仿真的指令。处理器核1007还可以包括其它处理设备,诸如数字信号处理器(dsp)。在一些实施例中,处理器1002包括高速缓存存储器1004。取决于架构,处理器1002可以具有单个内部高速缓存或内部高速缓存的多个层级。在一些实施例中,在处理器1002的各种组件之中共享高速缓存存储器。在一些实施例中,处理器1002还使用外部高速缓存(例如,3级(l3)高速缓存或末级高速缓存(llc))(未示出),可以使用已知的高速缓存一致性技术来在处理器核1007之中共享外部高速缓存。此外,寄存器文件1006被包括在处理器1002中,所述处理器1002可以包括用于存储不同类型的数据的不同类型的寄存器(例如,整数寄存器、浮点寄存器、状态寄存器和指令指针寄存器)。一些寄存器可以是通用寄存器,而其它寄存器可以特定于处理器1002的设计。在一些实施例中,处理器1002与处理器总线1010耦合以便在处理器1002与系统1000中的其它组件之间传输诸如地址、数据或控制信号之类的通信信号。在一个实施例中,系统1000使用示例性‘中枢’系统架构,包括存储器控制器中枢1016和输入输出(i/o)控制器中枢1030。存储器控制器中枢1016促进存储器设备与系统1000的其它组件之间的通信,而i/o控制器中枢(ich)1030经由本地i/o总线提供与i/o设备的连接。在一个实施例中,存储器控制器中枢1016的逻辑集成在处理器内。存储器设备1020可以是动态随机存取存储器(dram)设备、静态随机存取存储器(sram)设备、闪速存储器设备、相变存储器设备,或具有合适的性能以充当过程存储器的某个其它存储器设备。在一个实施例中,存储器设备1020可以作为用于系统1000的系统存储器进行操作,以存储用于在所述一个或多个处理器1002施行应用或过程时使用的数据1022和指令1021。存储器控制器中枢1016还与可选的外部图形处理器1012耦合,所述可选的外部图形处理器1012可以与处理器1002中的所述一个或多个图形处理器1008通信,以执行图形和媒体操作。在一些实施例中,ich1030使得外设能够经由高速i/o总线连接至存储器设备1020和处理器1002。i/o外设包括但不限于音频控制器1046、固件接口1028、无线收发机1026(例如,wi-fi、蓝牙)、数据存储设备1024(例如,硬盘驱动器、闪速存储器等),以及用于将传统(例如,个人系统2(ps/2))设备耦合至系统的传统i/o控制器1040。一个或多个通用串行总线(usb)控制器1042连接输入设备,诸如键盘和鼠标1044组合。网络控制器1034还可以与ich1030耦合。在一些实施例中,高性能网络控制器(未示出)与处理器总线1010耦合。将领会到,所示出的系统1000是示例性的而非限制性的,因为还可以使用经不同配置的其它类型的数据处理系统。例如,i/o控制器中枢1030可以集成在所述一个或多个处理器1002内,或者存储器控制器中枢1016和i/o控制器中枢1030可以集成到分立的外部图形处理器(诸如外部图形处理器1012)中。图11是处理器1100的实施例的框图,处理器1100具有一个或多个处理器核1102a-1102n、集成存储器控制器1114以及集成图形处理器1108。图11的具有与本文中的任何其它附图的元件相同的参考标号(或名称)的那些元件可以按与在本文其它地方描述的类似的任何方式进行操作或起作用,但不限于这样。处理器1100可以包括高达且包括由虚线框表示的附加核1102n的附加核。处理器核1102a-1102n中的每一个包括一个或多个内部高速缓存单元1104a-1104n。在一些实施例中,每一个处理器核还能够访问一个或多个共享的高速缓存单元1106。内部高速缓存单元1104a-1104n和共享高速缓存单元1106表示处理器1100内的高速缓存存储器分层结构。高速缓存存储器分层结构可以包括每一个处理器核内的至少一级指令和数据高速缓存以及一级或多级共享中级高速缓存,诸如2级(l2)、3级(l3)、4级(l4)、或其它级的高速缓存,其中,在外部存储器之前的最高级的高速缓存被分类为llc。在一些实施例中,高速缓存一致性逻辑维持各种高速缓存单元1106与1104a-1104n之间的一致性。在一些实施例中,处理器1100还可以包括一个或多个总线控制器单元1116的集合和系统代理核1110。所述一个或多个总线控制器单元1116管理外围总线(诸如一个或多个外围组件互连总线(例如,pci、pciexpress))的集合。系统代理核1110提供用于各种处理器组件的管理功能。在一些实施例中,系统代理核1110包括一个或多个集成存储器控制器1114以管理对各种外部存储器设备(未示出)的访问。在一些实施例中,处理器核1102a-1102n中的一个或多个包括对于同时多线程的支持。在这样的实施例中,系统代理核1110包括用于在多线程处理期间协调和操作核1102a-1102n的组件。此外,系统代理核1110可以包括功率控制单元(pcu),所述功率控制单元(pcu)包括调整处理器核1102a-1102n的功率状态的逻辑和组件以及图形处理器1108。在一些实施例中,此外,处理器1100包括施行图形处理操作的图形处理器1108。在一些实施例中,图形处理器1108与共享高速缓存单元1106的集合以及系统代理核1110耦合,所述系统代理核1110包括所述一个或多个集成存储器控制器1114。在一些实施例中,显示控制器1111与图形处理器1108耦合以将图形处理器输出驱动到一个或多个耦合的显示器。在一些实施例中,显示控制器1111可以是经由至少一个互连与图形处理器耦合的分离模块,或者可以集成在图形处理器1108或系统代理核1110内。在一些实施例中,基于环的互连单元1112用于耦合处理器1100的内部组件。然而,可以使用替换的互连单元,诸如点对点互连、切换式互连或其它技术,包括本领域中公知的技术。在一些实施例中,图形处理器1108经由i/o链路1113与环形互连1112耦合。示例性i/o链路1113表示i/o互连的多个种类中的至少一种,包括促进各种处理器组件与高性能嵌入式存储器模块1118(诸如edram模块)之间的通信的封装上i/o互连。在一些实施例中,处理器核1102a-1102n中的每一个以及图形处理器1108将嵌入式存储器模块1118用作共享末级高速缓存。在一些实施例中,处理器核1102a-1102n是施行相同指令集架构的同质核。在另一实施例中,处理器核1102a-1102n在指令集架构(isa)方面是异构的,其中,处理器核1102a-1102n中的一个或多个施行第一指令集,而其它核中的至少一个施行第一指令集的子集或不同的指令集。在一个实施例中,处理器核1102a-1102n在微架构方面是异构的,其中,具有相对较高功耗的一个或多个核与具有较低功耗的一个或多个功率核耦合。此外,处理器1100可以实现在一个或多个芯片上或者被实现为具有除其它组件之外的所图示的组件的soc集成电路。图12是图形处理器1200的框图,图形处理器1200可以是分立的图形处理单元,或者可以是与多个处理核集成的图形处理器。在一些实施例中,图形处理器经由到图形处理器上的寄存器的存储器映射的i/o接口并且利用被放置在处理器存储器中的命令进行通信。在一些实施例中,图形处理器1200包括访问存储器的存储器接口1214。存储器接口1214可以是到本地存储器、一个或多个内部高速缓存、一个或多个共享外部高速缓存、和/或到系统存储器的接口。在一些实施例中,图形处理器1200还包括显示控制器1202,以便将显示输出数据驱动到显示设备1220。显示控制器1202包括用于针对显示器的一个或多个叠覆平面的硬件以及多层视频或用户接口元件的组合物。在一些实施例中,图形处理器1200包括编码、解码、或者向、从或在一个或多个媒体编码格式之间对媒体进行转码的视频编解码器引擎1206,所述媒体编码格式包括但不限于运动图像专家组(mpeg)格式(诸如mpeg-2)、高级视频编码(avc)格式(诸如h.264/mpeg-4avc),以及电影&电视工程师协会(smpte)421m/vc-1、和联合图像专家组(jpeg)格式(诸如jpeg,以及运动jpeg(mjpeg)格式)。在一些实施例中,图形处理器1200包括执行二维(2d)栅格器操作(包括例如位边界块输送)的块图像输送(blit)引擎1204。然而,在一个实施例中,使用图形处理引擎(gpe)1210的一个或多个组件执行2d图形操作。在一些实施例中,gpe1210是用于执行图形操作的计算引擎,所述图形操作包括三维(3d)图形操作和媒体操作。在一些实施例中,gpe310包括用于执行3d操作的3d流水线1212,诸如使用作用于3d基元形状(例如,矩形、三角形等)的处理功能来渲染三维图像和场景。3d流水线1212包括可编程和固定的功能元件,所述可编程和固定的功能元件在到3d/媒体子系统1215的元件和/或繁衍的施行线程内执行各种任务。虽然3d流水线1212可以用于执行媒体操作,但是gpe1210的实施例还包括具体地用于执行媒体操作(诸如视频后处理和图像增强)的媒体流水线1216。在一些实施例中,媒体流水线1216包括固定功能或可编程的逻辑单元以取代或代表视频编解码器引擎1206来执行一种或多种专门的媒体操作,诸如视频解码加速、视频解交织和视频编码加速。在一些实施例中,此外,媒体流水线1216还包括线程繁衍单元以繁衍用于在3d/媒体子系统1215上施行的线程。所繁衍的线程执行用于对3d/媒体子系统1215中所包括的一个或多个图形施行单元的媒体操作的计算。在一些实施例中,3d/媒体子系统1215包括用于施行由3d流水线1212和媒体流水线1216繁衍的线程的逻辑。在一个实施例中,流水线向3d/媒体子系统1215发送线程施行请求,所述3d/媒体子系统1215包括用于仲裁和向可用的线程施行资源分派各种请求的线程分派逻辑。施行资源包括处理3d和媒体线程的图形施行单元阵列。在一些实施例中,3d/媒体子系统1215包括用于线程指令和数据的一个或多个内部高速缓存。在一些实施例中,子系统还包括共享存储器(包括寄存器和可寻址存储器)以在线程之间共享数据和存储输出数据。附加示例性图形处理引擎图13是依照一些实施例的图形处理器的图形处理引擎1310的框图。在一个实施例中,图形处理引擎(gpe)1310是图12中所示的gpe1210的一个版本。图13的具有与本文中的任何其它附图中的元件相同的参考标号(或名称)的元件可以按与本文中其它地方所描述的类似的任何方式进行操作或起作用,但不限于这样。例如,图示了图12的3d流水线1212和媒体流水线1216。媒体流水线1216在gpe1310的一些实施例中是可选的,并且可以不被明确地包括在gpe1310内。例如并且在至少一个实施例中,分离的媒体和/或图像处理器耦合至gpe1310。在一些实施例中,gpe1310与命令流送器1303耦合或包括所述命令流送器1303,所述命令流送器1303向3d流水线1212和/或媒体流水线1216提供命令流。在一些实施例中,命令流送器1303与存储器耦合,所述存储器可以是系统存储器或内部高速缓存存储器和共享高速缓存存储器中的一个或多个。在一些实施例中,命令流送器1303从存储器接收命令并且将命令发送至3d流水线1212和/或媒体流水线1216。命令是从存储用于3d流水线1212和媒体流水线1216的环形缓冲器提取的指引。在一个实施例中,此外,环形缓冲器包括存储多个命令批次的批命令缓冲器。用于3d流水线1212的命令还可以包括对存储在存储器中的数据的引用,所述数据诸如但不限于用于3d流水线1212的顶点和几何数据和/或用于媒体流水线1216的图像数据和存储器对象。3d流水线1212和媒体流水线1216通过经由相应流水线内的逻辑执行操作或者通过将一个或多个施行线程分派至图形核阵列1314来处理命令和数据。在各种实施例中,3d流水线1212可以通过处理指令并且将施行线程分派至图形核阵列1314来施行一个或多个着色器程序,诸如顶点着色器、几何着色器、像素着色器、分片着色器、计算着色器或其它着色器程序。图形核阵列1314提供统一的施行资源块。图形核阵列1314内的多用途施行逻辑(例如,施行单元)包括对各种3dapi着色器语言的支持,并且可以施行与多个着色器相关联的多个同时施行线程。在一些实施例中,图形核阵列1314还包括执行诸如视频和/或图像处理之类的媒体功能的施行逻辑。在一个实施例中,除了图形处理操作之外,施行单元此外包括可编程以执行并行通用计算操作的通用逻辑。通用逻辑可以与图10的(多个)处理器核1007或图11中的核1102a-1102n内的通用逻辑并行地或结合地执行处理操作。由在图形核阵列1314上施行的线程生成的输出数据可以将数据输出到统一返回缓冲器(urb)1318中的存储器。urb1318可以存储用于多个线程的数据。在一些实施例中,urb1318可以用于在图形核阵列1314上施行的不同线程之间发送数据。在一些实施例中,urb1318可以此外用于图形核阵列上的线程与共享功能逻辑1320内的固定功能逻辑之间的同步。在一些实施例中,图形核阵列1314是可缩放的,使得阵列包括可变数目的图形核,每一个具有基于gpe1310的目标功率和性能等级的可变数目的施行单元。在一个实施例中,施行资源是动态可缩放的,使得可以如所需要的那样启用或禁用施行资源。图形核阵列1314与共享功能逻辑1320耦合,所述共享功能逻辑1320包括在图形核阵列中的图形核之间共享的多个资源。共享功能逻辑1320内的共享功能是向图形核阵列1314提供专用补充功能的硬件逻辑单元。在各种实施例中,共享功能逻辑1320包括但不限于采样器1321、数学1322和线程间通信(itc)1323逻辑。此外,一些实施例实现共享功能逻辑1320内的一个或多个高速缓存1325。在针对给定的专用功能的需求不足以包括在图形核阵列1314中的情况下实现共享功能。相反,该专用功能的单个实例化被实现为共享功能逻辑1320中的独立实体并且在图形核阵列1314内的施行资源之中共享。在图形核阵列1314之间共享并且在图形核阵列1314内包括的精确功能集合在实施例之间变化。图14是图形处理器1400的另一实施例的框图。图14的具有与本文中的任何其它附图中的元件相同的参考标号(或名称)的元件可以按与在本文中其它地方描述的类似的任何方式进行操作或起作用,但不限于这样。在一些实施例中,图形处理器1400包括环形互连1402、流水线前端1404、媒体引擎1437和图形核1480a-1480n。在一些实施例中,环形互连1402将图形处理器耦合至其它处理单元,包括其它图形处理器或一个或多个通用处理器核。在一些实施例中,图形处理器是集成在多核处理系统内的许多处理器之一。在一些实施例中,图形处理器1400经由环形互连1402接收命令批次。传入命令由流水线前端1404中的命令流送器1403来解译。在一些实施例中,图形处理器1400包括经由(多个)图形核1480a-1480n执行3d几何处理和媒体处理的可缩放施行逻辑。对于3d几何处理命令,命令流送器1403将命令供应至几何流水线1436。针对至少一些媒体处理命令,命令流送器1403将命令供应至视频前端1434,所述视频前端1434与媒体引擎1437耦合。在一些实施例中,媒体引擎1437包括用于视频和图像后处理的视频质量引擎(vqe)1430以及提供硬件加速的媒体数据编码和解码的多格式编码/解码(mfx)1433引擎。在一些实施例中,几何流水线1436和媒体引擎1437每一个生成施行线程以用于由至少一个图形核1480a提供的线程施行资源。在一些实施例中,图形处理器1400包括可缩放的线程施行资源特征化模块化核1480a-1480n(有时被称为核切片),每一个具有多个子核1450a-550n、1460a-1460n(有时被称为核子切片)。在一些实施例中,图形处理器1400可以具有任何数目的图形核1480a至1480n。在一些实施例中,图形处理器1400包括图形核1480a,所述图形核1480a至少具有第一子核1450a和第二子核1460a。在其它实施例中,图形处理器是具有单个子核(例如,1450a)的低功率处理器。在一些实施例中,图形处理器1400包括多个图形核1480a-1480n,每一个包括第一子核1450a-1450n的集合和第二子核1460a-1460n的集合。第一子核1450a-1450n的集合中的每一个子核至少包括第一组施行单元1452a-1452n和媒体/纹理采样器1454a-1454n。第二子核1460a-1460n的集合中的每一个子核至少包括第二组施行单元1462a-1462n和采样器1464a-1464n。在一些实施例中,每一个子核1450a-1450n、1460a-1460n共享一组共享资源1470a-1470n。在一些实施例中,共享资源包括共享高速缓存存储器和像素操作逻辑。其它共享资源也可以被包括在图形处理器的各种实施例中。附加示例性施行单元图15图示了线程施行逻辑1500,包括在gpe的一些实施例中采用的处理元件阵列。图15的具有与本文中的任何其它附图中的元件相同的参考标号(或名称)的元件可以按与在本文中其它地方描述的类似的任何方式进行操作或起作用,但不限于这样。在一些实施例中,线程施行逻辑1500包括着色器处理器1502、线程分派器1504、指令高速缓存1506、包括多个施行单元1508a-1508n的可缩放施行单元阵列、采样器1510、数据高速缓存1512以及数据端口1514。在一个实施例中,可缩放施行单元阵列可以通过基于工作负载的计算要求而启用或禁用一个或多个施行单元(例如,施行单元1508a、1508b、1508c、1508d,直到1508n-1和1508n中的任何一个)来动态地缩放。在一个实施例中,所包括的组件经由互连结构而互连,所述互连结构链接到组件中的每一个。在一些实施例中,线程施行逻辑1500包括通过指令高速缓存1506、数据端口1514、采样器1510和施行单元1508a-1508n中的一个或多个到存储器(诸如系统存储器或高速缓存存储器)的一个或多个连接。在一些实施例中,每一个施行单元(例如,1508a)是能够施行多个同时硬件线程而同时针对每一个线程并行地处理多个数据元素的独立可编程通用计算单元。在各种实施例中,施行单元1508a-1508n的阵列是可缩放的以包括任何数目的单独施行单元。在一些实施例中,施行单元1508a-1508n主要用于施行着色器程序。着色器处理器1502可以处理各种着色器程序并且经由线程分派器1504分派与着色器程序相关联的施行线程。在一个实施例中,线程分派器包括对来自图形和媒体流水线的线程发起请求进行仲裁并且在施行单元1508a-1508n中的一个或多个施行单元上实例化所请求的线程的逻辑。例如,几何流水线(例如,图14的1436)可以将顶点、镶嵌或几何着色器分派至线程施行逻辑1500(图15)以用于处理。在一些实施例中,线程分派器1504还可以处理来自施行中的着色器程序的运行时线程繁衍请求。在一些实施例中,施行单元1508a-1508n支持指令集,所述指令集包括对许多标准3d图形着色器指令的本机支持,使得以最小的转译施行来自图形库(例如,direct3d和opengl)的着色器程序。施行单元支持顶点和几何处理(例如,顶点程序、几何程序、顶点着色器)、像素处理(例如,像素着色器、分片着色器)以及通用处理(例如,计算和媒体着色器)。施行单元1508a-1508n中的每一个能够进行多发布单指令多数据(simd)施行,并且多线程操作使得能够在面对较高延时的存储器访问时实现高效的施行环境。每一个施行单元内的每一个硬件线程具有专用的高带宽寄存器文件和相关联的独立线程状态。对于能够进行整数、单精度浮点运算和双精度浮点运算、simd分支能力、逻辑运算、超越运算和其它杂项运算的流水线,施行是每个时钟的多议题。在等待来自存储器或共享功能之一的数据时,施行单元1508a-1508n内的依赖性逻辑使等待线程休眠,直到所请求的数据已返回。当等待线程正在休眠时,硬件资源可以专用于处理其它线程。例如,在与顶点着色器操作相关联的延迟期间,施行单元可以执行针对像素着色器、分片着色器或包括不同顶点着色器的另一种类型的着色器程序的操作。执行单元1508a-1508n中的每一个施行单元在数据元素阵列上进行操作。数据元素的数目是“施行大小”或用于指令的通道数目。施行通道是施行数据元素访问、掩蔽和指令内的流控制的逻辑单元。通道的数目可以与针对特定图形处理器的物理算术逻辑单元(alu)或浮点单元(fpu)的数目无关。在一些实施例中,施行单元1508a-1508n支持整数和浮点数据类型。施行单元指令集包括simd指令。各种数据元素可以作为打包的数据类型而存储在寄存器中,并且施行单元将基于元素的数据大小来处理各种元素。例如,当在256位宽的向量上进行操作时,将向量的256位存储在寄存器中,并且施行单元在作为四个分离的64位打包数据元素(四倍字长(qw)大小的数据元素)、八个分离的32位打包数据元素(双倍字长(dw)大小的数据元素)、十六个分离的16位打包数据元素(字长(w)大小的数据元素)或三十二个分离的8位数据元素(字节(b)大小的数据元素)的向量上进行操作。然而,不同的向量宽度和寄存器大小是可能的。一个或多个内部指令高速缓存(例如,1506)包括在线程施行逻辑1500中以高速缓存用于施行单元的线程指令。在一些实施例中,一个或多个数据高速缓存(例如,1512)被包括以在线程施行期间高速缓存线程数据。在一些实施例中,采样器1510被包括以提供用于3d操作的纹理采样和用于媒体操作的媒体采样。在一些实施例中,采样器1510包括专门的纹理或媒体采样功能,以在向施行单元提供经采样的数据之前在采样过程期间处理纹理或媒体数据。在施行期间,图形和媒体流水线经由线程繁衍和分派逻辑向线程施行逻辑1500发送线程发起请求。一旦几何对象组已经被处理和栅格化成像素数据,着色器处理器1502内的像素处理器逻辑(例如,像素着色器逻辑、分片着色器逻辑等)被调用以进一步计算输出信息并且使得结果被写入到输出表面(例如,颜色缓冲器、深度缓冲器、模板缓冲器等)。在一些实施例中,像素着色器或分片着色器计算各种顶点属性的值,所述值跨栅格化的对象被内插。在一些实施例中,着色器处理器1502内的像素处理器逻辑然后施行应用编程接口(api)供应的像素或分片着色器程序。为了施行着色器程序,着色器处理器1502经由线程分派器1504将线程分派至施行单元(例如,1508a)。在一些实施例中,像素着色器1502使用采样器1510中的纹理采样逻辑来访问存储器中所存储的纹理图中的纹理数据。对纹理数据和输入几何数据的算术运算计算针对每一个几何分片的像素颜色数据,或从进一步处理中丢弃一个或多个像素。在一些实施例中,数据端口1514提供存储器访问机制,以用于使线程施行逻辑1500将经处理的数据输出至存储器以用于在图形处理器输出流水线上进行处理。在一些实施例中,数据端口1514包括或耦合至一个或多个高速缓存存储器(例如,数据高速缓存1512)以高速缓存数据以供经由数据端口的存储器访问。图16是图示了根据一些实施例的图形处理器指令格式1600的框图。在一个或多个实施例中,图形处理器施行单元支持具有以多种格式的指令的指令集。实线框图示了一般包括在施行单元指令中的组件,而虚线包括可选的组件或仅包括在指令的子集中的组件。在一些实施例中,所描述和图示的指令格式1600是宏指令,因为它们是供应至施行单元的指令,这与一旦处理执行则由指令解码所导致的微操作相反。在一些实施例中,图形处理器施行单元本机支持以128位指令格式1610的指令。64位压缩指令格式1630可用于基于所选指令、指令选项和操作数的数目的一些指令。本机128位指令格式710提供对所有指令选项的访问,而一些选项和操作被限制在64位格式1630中。64位格式1630中可用的本机指令根据实施例而变化。在一些实施例中,使用索引字段1613中的索引值集合将指令部分地压缩。施行单元硬件基于索引值来参考压缩表的集合,并且使用压缩表输出来重构以128位指令格式1610的本机指令。对于每一种格式,指令操作码1612限定施行单元要执行的操作。施行单元跨每一个操作数的多个数据元素来并行地施行每条指令。例如,响应于添加指令,施行单元跨每一个颜色通道执行同时添加操作,所述颜色通道表示纹理元素或图片元素。默认地,施行单元跨操作数的所有数据通道执行每条指令。在一些实施例中,指令控制字段1614使得能够实现对某些施行选项的控制,诸如通道选择(例如,预测)和数据通道排序(例如,拌和)。针对以128位指令格式1610的指令,施行大小字段1616限制将并行施行的数据通道的数目。在一些实施例中,施行大小字段1616不可用于使用在64位压缩指令格式1630中。一些施行单元指令具有高达三个操作数,包括两个源操作数(src01620、src11622)和一个目的地1618。在一些实施例中,执行单元支持双目的地指令,其中目的地之一是隐式的。数据操纵指令可以具有第三源操作数(例如,src21624),其中,指令操作码1612确定源操作数的数目。指令的最后的源操作数可以是利用指令传递的即时(例如,硬编码)值。在一些实施例中,128位指令格式1610包括访问/地址模式字段1626,所述访问/地址模式字段1626例如指定是使用直接寄存器寻址模式还是间接寄存器寻址模式。当使用直接寄存器寻址模式时,直接由指令中的位来提供一个或多个操作数的寄存器地址。在一些实施例中,128位指令格式1610包括访问/地址模式字段1626,所述访问/地址模式字段1626指定针对指令的地址模式和/或访问模式。在一个实施例中,访问模式用于限定针对指令的数据访问对齐。一些实施例支持访问模式,包括16字节对齐访问模式和1字节对齐访问模式,其中,访问模式的字节对齐确定指令操作数的访问对齐。例如,当在第一模式中时,指令可以使用字节对齐寻址以用于源操作数和目的地操作数,并且当在第二模式中时,指令可以使用16字节对齐寻址以用于所有的源操作数和目的地操作数。在一个实施例中,访问/地址模式字段1626的地址模式部分确定指令是使用直接寻址还是间接寻址。当使用直接寄存器寻址模式时,指令中的位直接提供一个或多个操作数的寄存器地址。当使用间接寄存器寻址模式时,可以基于指令中的地址寄存器值和地址即时字段来计算一个或多个操作数的寄存器地址。在一些实施例中,基于操作码1612位字段对指令进行分组以简化操作码解码1640。对于8位操作码,第4、5和6位允许施行单元确定操作码的类型。所示出的精确操作码分组仅仅是示例。在一些实施例中,移动和逻辑操作码组1642包括数据移动和逻辑指令(例如,移动(mov)、比较(cmp))。在一些实施例中,移动和逻辑组1642共享五个最高有效位(msb),其中移动(mov)指令是以0000xxxxb的形式,并且逻辑指令是以0001xxxxb的形式。流控制指令组1644(例如,调用(call)、跳(jmp))包括以0010xxxxb形式(例如,0x20)的指令。杂项指令组1646包括指令的混合,包括以0011xxxxb形式(例如,0x30)的同步指令(例如,等待(wait)、发送(send))。并行数学指令组1648包括以0100xxxxb形式(例如,0x40)的按分量的算术指令(例如,加(add)、乘(mul))。并行数学组1648跨数据通道并行地执行算术运算。向量数学组1650包括以0101xxxxb形式(例如,0x50)的算术指令(例如,dp4)。向量数学组对向量操作数执行算术运算,诸如点积计算。附加示例性图形流水线图17是图形处理器1700的另一实施例的框图。图17的具有与本文中的任何其它附图中的元件相同的参考标号(或名称)的元件可以按与在本文中其它地方描述的类似的任何方式进行操作或起作用,但不限于这样。在一些实施例中,图形处理器1700包括图形流水线1720、媒体流水线1730、显示引擎1740、线程施行逻辑1750以及渲染输出流水线1770。在一些实施例中,图形处理器1700是包括一个或多个通用处理核的多核处理系统内的图形处理器。图形处理器通过对一个或多个控制寄存器(未示出)的寄存器写入或者经由向图形处理器1700发布的经由环形互连1702的命令来控制。在一些实施例中,环形互连1702将图形处理器1700耦合至其它处理组件,诸如其它图形处理器或通用处理器。来自环形互连1702的命令通过命令流送器1703被解译,所述命令流送器1703将指令供应至图形流水线1720或媒体流水线1730的各个组件。在一些实施例中,命令流送器1703引导顶点提取器1705的操作,所述顶点提取器1705从存储器读取顶点数据并且施行由命令流送器1703所提供的顶点处理命令。在一些实施例中,顶点提取器1705将顶点数据提供给顶点着色器1707,所述顶点着色器1707对每一个顶点执行坐标空间变换和照明操作。在一些实施例中,顶点提取器1705和顶点着色器1707通过经由线程分派器1731向施行单元1752a-1752b分派施行线程来施行顶点处理指令。在一些实施例中,施行单元1752a-1752b是具有用于执行图形和媒体操作的指令集的向量处理器阵列。在一些实施例中,施行单元1752a-1752b具有附接的l1高速缓存1751,所述l1高速缓存1751特定于每一个阵列或在阵列之间共享。高速缓存可以被配置为数据高速缓存、指令高速缓存或单个高速缓存,所述单个高速缓存被分区以包含不同分区中的数据和指令。在一些实施例中,图形流水线1720包括执行3d对象的硬件加速镶嵌的镶嵌组件。在一些实施例中,可编程的外壳着色器811配置镶嵌操作。可编程域着色器817提供镶嵌输出的后端评估。镶嵌器1713在外壳着色器1711的方向上进行操作并且包含专用逻辑以基于粗略的几何模型来生成详细的几何对象集合,所述粗略的几何模型作为输入被提供至图形流水线1720。在一些实施例中,如果不使用镶嵌,则可以绕过镶嵌组件(例如,外壳着色器1711、镶嵌器1713和域着色器1717)。在一些实施例中,完整的几何对象可以由几何着色器1719经由被分派至施行单元1752a-1752b的一个或多个线程来处理,或者可以直接进行到裁剪器1729。在一些实施例中,几何着色器在整个几何对象而不是顶点或者如图形流水线的先前级中的顶点补丁上进行操作。如果禁用镶嵌,则几何着色器1719从顶点着色器1707接收输入。在一些实施例中,几何着色器1719可由几何着色器程序编程以便如果镶嵌单元被禁用则执行几何镶嵌。在栅格化之前,裁剪器1729处理顶点数据。裁剪器1729可以是固定功能裁剪器或者具有裁剪和几何着色器功能的可编程裁剪器。在一些实施例中,渲染输出流水线1770中的栅格器和深度测试组件1773分派像素着色器以将几何对象转换成其每像素表示。在一些实施例中,像素着色器逻辑包括在线程施行逻辑1750中。在一些实施例中,应用可以绕过栅格器和深度测试组件1773并且经由流出单元1723访问未栅格化的顶点数据。图形处理器1700具有互连总线、互连结构或某个其它的互连机制,其允许数据和消息在处理器的主要组件之中传递。在一些实施例中,施行单元1752a-1752b和(多个)相关联的高速缓存1751、纹理和媒体采样器1754以及纹理/采样器高速缓存1758经由数据端口1756进行互连,以执行存储器访问并且与处理器的渲染输出流水线组件进行通信。在一些实施例中,采样器1754、高速缓存1751、1758以及施行单元1752a-1752b每一个具有分离的存储器访问路径。在一些实施例中,渲染输出流水线1770包含栅格器和深度测试组件1773,深度测试组件1773将基于顶点的对象转换成相关联的基于像素的表示。在一些实施例中,栅格器逻辑包括执行固定功能三角形和线栅格化的窗口化器/掩蔽器单元。相关联的渲染高速缓存1778和深度高速缓存1779在一些实施例中也是可用的。像素操作组件1777对数据执行基于像素的操作,虽然在一些实例中,与2d操作(例如,利用混合的位块图像输送)相关联的像素操作由2d引擎1741执行,或者在显示时间处由显示控制器1743使用叠覆显示平面来代替。在一些实施例中,共享的l3高速缓存1775可用于所有图形组件,从而允许在不使用主系统存储器的情况下共享数据。在一些实施例中,图形处理器媒体流水线1730包括媒体引擎1737和视频前端1734。在一些实施例中,视频前端1734从命令流送器1703接收流水线命令。在一些实施例中,媒体流水线1730包括分离的命令流送器。在一些实施例中,视频前端1734在将命令发送至媒体引擎1737之前处理媒体命令。在一些实施例中,媒体引擎1737包括繁衍线程以用于经由线程分派器1731分派至线程施行逻辑1750的线程繁衍功能。在一些实施例中,图形处理器1700包括显示引擎1740。在一些实施例中,显示引擎1740在处理器1700外部并且经由环形互连1702或某个其它互连总线或结构与图形处理器耦合。在一些实施例中,显示引擎1740包括2d引擎1741和显示控制器1743。在一些实施例中,显示引擎1740包含能够独立于3d流水线而操作的专用逻辑。在一些实施例中,显示控制器1743与显示设备(未示出)耦合,所述显示设备可以是系统集成显示设备(如在膝上型计算机中)或经由显示设备连接器附接的外部显示设备。在一些实施例中,图形流水线1720和媒体流水线1730可配置成基于多个图形和媒体编程接口执行操作并且不特定于任何一种应用编程接口(api)。在一些实施例中,用于图形处理器的驱动器软件将特定于特定图形或媒体库的api调用转译成可以由图形处理器处理的命令。在一些实施例中,为全部来自khronosgroup的开放图形库(opengl)、开放计算语言(opencl)和/或vulkan图形和计算api提供支持。在一些实施例中,也可以为来自微软公司的direct3d库提供支持。在一些实施例中,可以支持这些库的组合。还可以为开源计算机视觉库(opencv)提供支持。如果可以做出从将来的api的流水线到图形处理器的流水线的映射,则还将支持具有兼容3d流水线的将来api。图形流水线编程图18a是图示了根据一些实施例的图形处理器命令格式1800的框图。图18b是图示了根据实施例的图形处理器命令序列1810的框图。图18a中的实线框图示了一般包括在图形命令中的组件,而虚线包括可选的或者仅包括在图形命令的子集中的组件。图18a的示例性图形处理器命令格式1800包括识别命令的目标客户端1802、命令操作代码(操作码)1804和用于命令的相关数据1806的数据字段。一些命令中还包括子操作码1805和命令大小1808。在一些实施例中,客户端1802指定处理命令数据的图形设备的客户端单元。在一些实施例中,图形处理器命令解析器检验每个命令的客户端字段以调节对命令的进一步处理并且将命令数据路由至合适的客户端单元。在一些实施例中,图形处理器客户端单元包括存储器接口单元、渲染单元、2d单元、3d单元和媒体单元。每一个客户端单元具有处理命令的对应处理流水线。一旦命令被客户端单元接收到,客户端单元读取操作码1804和子操作码1805(如果存在的话)以确定要执行的操作。客户端单元使用数据字段1806中的信息来执行命令。针对一些命令,期望明确的命令大小1808以指定命令的大小。在一些实施例中,命令解析器基于命令操作码自动地确定命令中的至少一些的大小。在一些实施例中,经由双倍字长的倍数对命令进行对齐。图18b中的流程图示出示例性图形处理器命令序列1810。在一些实施例中,以图形处理器的实施例为特征的数据处理系统的软件或固件使用所示出的命令序列的版本来设立、施行和终止图形操作集合。仅出于示例的目的而示出和描述样本命令序列,因为实施例并不限于这些具体命令或该命令序列。而且,命令可以作为命令批次以命令序列来发布,使得图形处理器将以至少部分并发的方式处理命令序列。在一些实施例中,图形处理器命令序列1810可以按流水线清除命令1812开始以使得任何活跃的图形流水线完成针对流水线的当前待决命令。在一些实施例中,3d流水线1822和媒体流水线1824不并发地进行操作。执行流水线清除以使得活跃的图形流水线完成任何待决命令。响应于流水线清除,用于图形处理器的命令解析器将停止命令处理,直到活跃的绘图引擎完成待决操作并且相关读取高速缓存无效。可选地,渲染高速缓存中被标记为“脏”的任何数据可以被清除到存储器。在一些实施例中,流水线清除命令1812可以用于流水线同步或者在将图形处理器置于低功率状态之前。在一些实施例中,当命令序列要求图形处理器在流水线之间明确地切换时,使用流水线选择命令1813。在一些实施例中,在发布流水线命令之前在施行上下文中仅要求一次流水线选择命令1813,除非上下文要发布针对两条流水线的命令。在一些实施例中,在经由流水线选择命令1813的流水线切换之前立即要求流水线清除命令1812。在一些实施例中,流水线控制命令1814配置用于操作的图形流水线并且用于对3d流水线1822和媒体流水线1824进行编程。在一些实施例中,流水线控制命令1814配置用于活跃流水线的流水线状态。在一个实施例中,流水线控制命令1814用于流水线同步和在处理命令批次之前清除来自活跃流水线内的一个或多个高速缓存存储器的数据。在一些实施例中,返回缓冲器状态命令1816用于配置返回缓冲器的集合以用于使相应的流水线写入数据。一些流水线操作要求一个或多个返回缓冲器的分配、选择、或配置,在处理期间操作将中间数据写入到所述一个或多个返回缓冲器中。在一些实施例中,图形处理器还使用一个或多个返回缓冲器以存储输出数据并且执行交叉线程通信。在一些实施例中,返回缓冲器状态1816包括选择返回缓冲器的大小和数目以用于流水线操作的集合。命令序列中的其余命令基于用于操作的活跃流水线而不同。基于流水线确定1820,命令序列被定制用于以3d流水线状态1830开始的3d流水线1822,或者在媒体流水线状态1840处开始的媒体流水线1824。配置3d流水线状态1830的命令包括用于顶点缓冲器状态、顶点元素状态、恒定颜色状态、深度缓冲器状态和在处理3d基元命令之前要配置的其它状态变量的3d状态设置命令。这些命令的值至少部分地基于使用中的特定3dapi来确定。在一些实施例中,3d流水线状态1830命令还能够选择性地禁用或绕过某些流水线元件,如果将不使用那些元件的话。在一些实施例中,3d基元1832命令用于提交要由3d流水线处理的3d基元。经由3d基元1832命令传递到图形处理器的命令和相关联的参数被转发到图形流水线中的顶点提取功能。顶点提取功能使用3d基元1832命令数据来生成顶点数据结构。顶点数据结构被存储在一个或多个返回缓冲器中。在一些实施例中,3d基元1832命令用于经由顶点着色器对3d基元执行顶点操作。为了处理顶点着色器,3d流水线1822将着色器施行线程分派至图形处理器施行单元。在一些实施例中,经由施行1834命令或事件触发3d流水线1822。在一些实施例中,寄存器写入触发命令施行。在一些实施例中,经由命令序列中的“前进”或“踢动(kick)”命令来触发施行。在一个实施例中,使用流水线同步命令来触发命令施行以通过图形流水线清除命令序列。3d流水线将针对3d基元来执行几何处理。一旦完成操作,则对结果得到的几何对象进行栅格化,并且像素引擎对结果得到的像素进行着色。对于那些操作,还可以包括控制像素着色和像素后端操作的附加命令。在一些实施例中,当执行媒体操作时,图形处理器命令序列1810遵循媒体流水线1824路径。一般地,用于媒体流水线1824的编程的具体使用和方式取决于要执行的媒体或计算操作。在媒体解码期间,可以将具体的媒体解码操作卸载到媒体流水线。在一些实施例中,还可以绕过媒体流水线,并且可以使用由一个或多个通用处理核提供的资源来整体地或部分地执行媒体解码。在一个实施例中,媒体流水线还包括用于通用图形处理器单元(gpgpu)操作的元件,其中图形处理器用于使用计算着色器程序来执行simd向量运算,所述计算着色器程序不明确地涉及图形基元的渲染。在一些实施例中,以与3d流水线1822类似的方式配置媒体流水线1824。在媒体对象命令1842之前,将配置媒体流水线状态1840的命令集合分派或放置到命令队列中。在一些实施例中,针对媒体流水线状态1840的命令包括配置媒体流水线元件的数据,所述媒体流水线元件将用于处理媒体对象。这包括配置媒体流水线内的视频解码和视频编码逻辑的数据,诸如编码或解码格式。在一些实施例中,针对媒体流水线状态1840的命令还支持去到包含状态设置批次的“间接”状态元件的一个或多个指针的使用。在一些实施例中,媒体对象命令1842将指针供应至媒体对象以用于由媒体流水线进行处理。媒体对象包括包含要处理的视频数据的存储器缓冲器。在一些实施例中,在发布媒体对象命令1842之前,所有的媒体流水线状态必须是有效的。一旦流水线状态被配置并且媒体对象命令1842被排队,经由施行命令1844或等效的施行事件(例如,寄存器写入)来触发媒体流水线1824。然后可以通过由3d流水线1822或媒体流水线1824提供的操作对来自媒体流水线1824的输出进行后处理。在一些实施例中,以与媒体操作类似的方式来配置和施行gpgpu操作。图形软件架构图19图示了根据一些实施例的用于数据处理系统1900的示例性图形软件架构。在一些实施例中,软件架构包括3d图形应用1910、操作系统1920以及至少一个处理器1930。在一些实施例中,处理器1930包括图形处理器1932以及一个或多个通用处理器核1934。图形应用1910和操作系统1920每一个在数据处理系统的系统存储器1950中施行。在一些实施例中,3d图形应用1910包含一个或多个着色器程序,所述一个或多个着色器程序包括着色器指令1912。着色器语言指令可以按高级着色器语言,诸如高级着色器语言(hlsl)或opengl着色器语言(glsl)。应用还包括可执行指令1914,所述可执行指令1914是以适合于由通用处理器核1934执行的机器语言。应用还包括由顶点数据限定的图形对象1916。在一些实施例中,操作系统1920是来自微软公司的microsoft®windows®操作系统、专用unix式操作系统或使用linux内核的变型的开源unix式操作系统。操作系统1920可以支持图形api1922,诸如direct3dapi、openglapi或vulkanapi。当direct3dapi正在使用时,操作系统1920使用前端着色器编译器1924以将hlsl中的任何着色器指令1912编译成较低级着色器语言。编译可以是即时(jit)编译,或者应用可以执行着色器预编译。在一些实施例中,在3d图形应用1910的编译期间,将高级着色器编译成低级着色器。在一些实施例中,着色器指令1912以中间形式提供,所述中间形式诸如由vulkanapi使用的标准便携式中间表示(spir)的版本。在一些实施例中,用户模式图形驱动器1926包含后端着色器编译器1927以将着色器指令1912转换成硬件特定表示。当在使用openglapi时,将以glsl高级语言的着色器指令1912传递至用户模式图形驱动器1926以用于编译。在一些实施例中,用户模式图形驱动器1926使用操作系统内核模式功能1928来与内核模式图形驱动器1929进行通信。在一些实施例中,内核模式图形驱动器1929与图形处理器1932通信以分派命令和指令。ip核实现方式至少一个实施例的一个或多个方面可以由存储在机器可读介质上的代表性代码实现,所述机器可读介质表示和/或限定集成电路内的诸如处理器之类的逻辑。例如,机器可读介质可以包括表示处理器内的各种逻辑的指令。当由机器读取时,指令可以使机器制作逻辑以执行本文所描述的技术。这样的表示(称为“ip核”)是用于集成电路的逻辑的可重用单元,所述可重用单元可以作为描述集成电路的结构的硬件模型而存储在有形、机器可读介质上。可以将硬件模型供应至在制造集成电路的制作机器上加载硬件模型的各种消费者或制造机构。可以制作集成电路,使得电路执行与本文所描述的实施例中的任何一个实施例相关联地描述的操作。图20是图示了根据实施例的可以用于制造集成电路以执行操作的ip核开发系统2000的框图。ip核开发系统2000可以用于生成可以并入到更大的设计中或用于构造整个集成电路(例如,soc集成电路)的模块化、可重用设计。设计机构2030可以按高级编程语言(例如,c/c++)生成ip核设计的软件模拟2010。软件模拟2010可以用于使用模拟模型2012来设计、测试和验证ip核的行为。模拟模型2012可以包括功能、行为和/或时序模拟。然后可以从模拟模型2012来创建或合成寄存器传输级(rtl)设计2015。rtl设计2015是对硬件寄存器之间的数字信号的流动进行建模的集成电路(包括使用经建模的数字信号执行的相关联的逻辑)的行为的抽象。除了rtl设计2015之外,还可以创建、设计或合成逻辑级或晶体管级处的较低级设计。因此,初始设计和模拟的特定细节可以变化。可以由设计机构将rtl设计2015或等同物进一步合成为硬件模型2020,硬件模型2020可以是以硬件描述语言(hdl)或物理设计数据的某种其它表示。可以进一步模拟或测试hdl以验证ip核设计。可以使用非易失性存储器2040(例如,硬盘、闪速存储器或任何非易失性存储介质)来存储ip核设计以用于递送至第3方制作机构2065。可替换地,可以通过有线连接2050或无线连接2060来传输(例如,经由互联网)ip核设计。制作机构2065然后可以制作至少部分地基于ip核设计的集成电路。所制作的集成电路可以配置成执行依照本文所描述的至少一个实施例的操作。示例性片上系统集成电路图21-23图示了根据本文所描述的各种实施例的可以使用一个或多个ip核来制作的示例性集成电路和相关联的图形处理器。除了所图示的之外,可以包括其它逻辑和电路,包括附加的图形处理器/核、外围接口控制器或通用处理器核。图21是图示了根据实施例的可以使用一个或多个ip核来制作的示例性片上系统集成电路2100的框图。示例性集成电路2100包括一个或多个应用处理器2105(例如,cpu)、至少一个图形处理器2110,并且可以附加地包括图像处理器2115和/或视频处理器2120,其中的任何一个都可以是来自相同或多个不同设计机构的模块化ip核。集成电路2100包括外围或总线逻辑,包括usb控制器2125、uart控制器2130、spi/sdio控制器2135和i2s/i2c控制器2140。此外,集成电路可以包括耦合至高清晰度多媒体接口(hdmi)控制器2150和移动工业处理器接口(mipi)显示接口2155中的一个或多个的显示设备2145。可以由闪速存储器子系统2160(包括闪速存储器和闪速存储器控制器)来提供存储。可以经由存储器控制器2165来提供存储器接口以用于访问sdram或sram存储器设备。此外,一些集成电路包括嵌入式安全引擎2170。图22是图示了根据实施例的可以使用一个或多个ip核来制作的片上系统集成电路的示例性图形处理器2210的框图。图形处理器2210可以是图21的图形处理器2110的变型。图形处理器2210包括顶点处理器2205和一个或多个分片处理器2215a-2215n(例如,2215a,2215b,2215c,2215d,直到2215n-1和2215n)。图形处理器2210可以经由分离的逻辑施行不同的着色器程序,使得顶点处理器2205被优化以施行用于顶点着色器程序的操作,而所述一个或多个分片处理器2215a-2215n施行分片(例如,像素)着色操作以用于分片或像素着色器程序。顶点处理器2205执行3d图形流水线的顶点处理阶段并且生成基元和顶点数据。(多个)分片处理器2215a-2215n使用由顶点处理器2205生成的基元和顶点数据以产生显示在显示设备上的帧缓冲器。在一个实施例中,(多个)分片处理器2215a-2215n被优化以施行如openglapi中提供的分片着色器程序,所述分片着色器程序可以用于执行与如direct3dapi中提供的像素着色器程序类似的操作。此外,图形处理器2210包括一个或多个存储器管理单元(mmu)2220a-2220b、(多个)高速缓存2225a-2225b和(多个)电路互连2230a-2230b。所述一个或多个mmu2220a-2220b为集成电路2210、包括为顶点处理器2205和/或(多个)分片处理器2215a-2215n提供虚拟到物理地址映射,除了存储在所述一个或多个高速缓存2225a-2225b中的顶点或图像/纹理数据之外,虚拟到物理地址映射可以引用存储在存储器中的顶点或图像/纹理数据。在一个实施例中,所述一个或多个mmu2220a-2220b可以与系统内的其它mmu(包括与图21的所述一个或多个应用处理器2105、图像处理器2115和/或视频处理器2120相关联的一个或多个mmu)同步,使得每一个处理器2105-2120可以参与共享或统一的虚拟存储器系统。根据实施例,所述一个或多个电路互连2230a-2230b使得图形处理器2210能够经由soc的内部总线或经由直接连接来与soc内的其它ip核对接。图23是图示了根据实施例的可以使用一个或多个ip核来制作的片上系统集成电路的附加示例性图形处理器2310的框图。图形处理器2310可以是图21的图形处理器2110的变型。图形处理器2310包括图22的集成电路2200的所述一个或多个mmu2220a-2220b、高速缓存2225a-2225b和电路互连2230a-2230b。图形处理器2310包括一个或多个着色器核2315a-2315n(例如,2315a、2315b、2315c、2315d、2315e、2315f、直到2315n-1和2315n),所述一个或多个着色器核提供统一的着色器核架构,其中单个核或类型或核可以施行所有类型的可编程着色器代码,包括着色器程序代码以实现顶点着色器、分片着色器和/或计算着色器。当前的着色器核的确切数目可以在实施例和实现方式之中变化。此外,图形处理器2310包括核间任务管理器2305,所述核间任务管理器2305充当将施行线程分派到一个或多个着色器核2315a-2315n的线程分派器和加速拼块化操作以用于基于拼块的渲染的拼块化单元2318,其中用于场景的渲染操作在图像空间中被细分,例如以利用场景内的局部空间一致性或优化内部高速缓存的使用。以下条款和/或示例关于其具体实施例或示例。示例中的详情可以使用在一个或多个实施例中的任何地方。不同实施例或示例的各种特征可以与所包括的一些特征和所排除的其它特征各种地组合以适应各种不同的应用。示例可以包括诸如方法、用于执行方法的动作的部件、包括指令的至少一个机器可读介质,所述指令在由机器执行时使得机器执行方法的动作,或者根据本文所描述的实施例和示例的装置或系统的动作。各种组件可以是用于执行所描述的操作或功能的部件。一个实施例提供了一种通用图形处理设备,包括处理包含图形或计算操作的工作负载的通用图形处理计算块、第一高速缓存存储器和一致性模块,使得第一高速缓存存储器能够一致地高速缓存用于工作负载的数据,所述数据存储在虚拟地址空间内的存储器中,其中与分离的通用处理器共享的虚拟地址空间包括与第一高速缓存存储器一致的第二高速缓存存储器。在一个实施例中,计算块包括多个计算集群,每一个计算集群包括多个图形多处理器。第一高速缓存存储器可以是3级高速缓存存储器。一致性模块以超线粒度追踪一致性,其中超线包括多个高速缓存线。可以按高速缓存线粒度管理用于第一高速缓存存储器的数据存储,而同时以超线粒度管理第一高速缓存存储器与第二高速缓存存储器之间的一致性。在一个实施例中,在对第一高速缓存存储器内的高速缓存线的数据写入之前,一致性模块确定针对与高速缓存线相关联的超线的所有权状态。为了取得与高速缓存线相关联的超线的所有权,一致性模块可以广播区监听以取得与高速缓存线相关联的超线的所有权。在一个实施例中,通用图形处理设备是经由系统总线连接到分离的通用处理器的插件卡。一个实施例提供了一种异构处理系统上的方法,所述方法包括从异构处理系统的代理上施行的过程接收对访问虚拟存储器地址的请求;确定代理是否具有与虚拟地址相关联的第一超线的所有权,第一超线与横跨多个高速缓存线的存储器区相关联;当代理具有第一超线的所有权时,从代理访问虚拟存储器地址而不触发侦听请求;以及当代理不具有超线的所有权时,发送区监听请求以获得第一超线的所有权。在一个实施例中,如果代理具有第一超线的所有权,包括从管芯上超线目录表高速缓存读取针对第一超线的条目。确定代理是否具有第一超线的所有权包括,当代理是通用处理器时,从存储器中的超线目录表读取针对第一超线的条目。当代理是通用图形处理单元时,确定代理是否具有第一超线的所有权包括从通用图形处理单元的存储器内的超线所有权表读取针对第一超线的条目。一个实施例提供了一种异构数据处理系统,包括包含第一高速缓存存储器和第一一致性模块的通用处理器,以及包含第二高速缓存存储器和第二一致性模块的通用图形处理器,其中第一一致性模块和第二一致性模块使得能够实现第一高速缓存存储器与第二高速缓存存储器之间的异构一致性,以多个高速缓存线粒度使得能够实现异构一致性。异构数据处理系统附加地包括存储超线目录表的第一存储器模块,超线目录表追踪针对由通用处理器所有的每一个超线和通用处理器的所有权,其中每一个超线是横跨第一高速缓存存储器和第二高速缓存存储器的多个高速缓存线的地址区。本文所描述的实施例涉及配置成执行某些操作或具有预确定的功能的诸如专用集成电路(asic)的硬件的具体配置。这样的电子设备典型地包括耦合到一个或多个其它组件的一个或多个处理器的集合,所述一个或多个其它组件诸如一个或多个存储设备(非易失性机器可读存储介质)、用户输入/输出设备(例如键盘、触摸屏和/或显示器)和网络连接。处理器的集合和其它组件的耦合典型地通过一个或多个总线和桥接器(还称为总线控制器)。存储设备和承载网络业务的信号分别表示一个或多个机器可读存储介质和机器可读通信介质。因此,给定电子设备的存储设备典型地存储用于在该电子设备的一个或多个处理器的集合上施行的代码和/或数据。示例示例1:一种通用图形处理设备,包括:处理包含图形或计算操作的工作负载的通用图形处理计算块;第一高速缓存存储器;以及一致性模块,使得第一高速缓存存储器能够一致地高速缓存用于工作负载的数据,所述数据存储在虚拟地址空间内的存储器中,其中与分离的通用处理器共享的虚拟地址空间包括与第一高速缓存存储器一致的第二高速缓存存储器。示例2:如示例1中所述的通用图形处理设备,其中通用图形处理计算块包括多个计算集群,每一个计算集群包括多个图形多处理器。示例3:如示例1中所述的通用图形处理设备,其中工作负载是包括要由通用图形处理计算块和分离的通用处理器执行的操作的异构工作负载。示例4:如示例1中所述的通用图形处理设备,其中第一高速缓存存储器是3级高速缓存存储器。示例5:如示例1中所述的通用图形处理设备,其中通用图形处理设备是经由系统总线连接到分离的通用处理器的插件卡。示例6:如示例1中所述的通用图形处理设备,其中一致性模块以超线粒度追踪一致性,其中超线包括多个高速缓存线。示例7:如示例6中所述的通用图形处理设备,其中以高速缓存线粒度管理用于第一高速缓存存储器的数据存储,并且以超线粒度管理与第二高速缓存存储器之间的一致性。示例8:如示例7中所述的通用图形处理设备,附加地包括存储由通用图形处理设备拥有的超线集合的超线所有权表。示例9:如示例8中所述的通用图形处理设备,其中超线所有权表包括针对由通用图形处理设备拥有的超线集合中的每一个超线的条目。示例10:如示例9中所述的通用图形处理设备,其中超线所有权表中的每一个条目包括针对超线的超线标签和一致性协议状态。示例11:如示例10中所述的通用图形处理设备,其中一致性协议状态是经修改、排他、共享或无效中的一个。示例12:如示例10中所述的通用图形处理设备,超线所有权表中的每一个条目附加地包括针对超线内的每一个高速缓存线的有效位。示例13:一种异构处理系统的代理上的方法,所述方法包括:从代理上施行的过程接收对访问虚拟存储器地址的请求;确定代理是否具有与虚拟存储器地址相关联的第一超线的所有权,第一超线与横跨多个高速缓存线的存储器区相关联;当代理具有第一超线的所有权时,从代理访问虚拟存储器地址而不触发侦听请求;以及当代理不具有第一超线的所有权时,发送区监听请求以获得第一超线的所有权。示例14:如示例13中所述的方法,其中代理是中央处理单元。示例15:如示例14中所述的方法,其中确定代理是否具有第一超线的所有权包括从管芯上超线目录表高速缓存读取针对第一超线的条目。示例16:如示例14中所述的方法,其中确定代理是否具有第一超线的所有权包括,从存储器中的超线目录表读取针对第一超线的条目。示例17:如示例13中所述的方法,其中代理是通用图形处理单元。示例18:如示例17中所述的方法,其中确定代理是否具有第一超线的所有权包括从通用图形处理单元的存储器内的超线所有权表读取针对第一超线的条目。示例19:一种异构数据处理系统,包括:包含第一高速缓存存储器和第一一致性模块的通用处理器;以及包含第二高速缓存存储器和第二一致性模块的通用图形处理器,其中第一一致性模块和第二一致性模块使得能够实现第一高速缓存存储器与第二高速缓存存储器之间的异构一致性,以多个高速缓存线粒度使得能够实现异构一致性。示例20:如示例19中所述的异构数据处理系统,附加地包括存储超线目录表的第一存储器模块,超线目录表追踪针对由通用处理器所有的每一个超线和通用处理器的所有权,其中每一个超线是横跨第一高速缓存存储器和第二高速缓存存储器的多个高速缓存线的地址区。当然,可以使用软件、固件和/或硬件的不同组合来实现实施例的一个或多个部分。贯穿该详细描述,出于解释的目的,阐述了众多具体细节以便提供本发明的透彻理解。然而,对本领域技术人员将明显的是,可以在没有这些具体细节中的一些的情况下实践实施例。在某些实例中,并未详细描述公知的结构和功能,以避免模糊实施例的发明主题。相应地,本发明的范围和精神应当根据随附权利要求来断定。当前第1页12
当前第1页1 2 
网友询问留言 已有0条留言
  • 还没有人留言评论。精彩留言会获得点赞!
1