爱奇飞网

网站首页数码科技 >正文

适用于人工智能和机器学习项目的CoralAI双边缘加速器

开心的月饼 2024-03-19 08:55:39 数码科技

CoralAIDualEdgeAccelerator是一款改变游戏规则的设备,在微小的封装中提供了令人印象深刻的冲击力。这款单一PCIM.2芯片配备的不是一个,而是两个张量处理单元(TPU),为本地AI应用提供无与伦比的机器学习(ML)能力。凭借其实惠的前期成本和低功耗,双边缘加速器实际上会随着时间的推移而收回成本。

适用于人工智能和机器学习项目的CoralAI双边缘加速器

CoralAI双边加速器与USB和独立PCIe同类产品的不同之处在于,它能够在仍然依赖相同的M.2插槽的情况下产生双倍的ML性能。这款小巧的强大处理器可以毫不费力地超越2,000美元的CPU,使其成为家庭助理人群的最爱,适用于FrigateNVR监控等应用。借助DualEdgeAccelerator,单个25美元的CoralTPU可以快速处理TensorFlowLite模型,以每秒800帧的速度实时分析人物和物体的图像。

双总线PCIe要求

虽然CoralAI双边缘加速器的潜力巨大,但应对双总线PCIe要求的复杂性并找到支持必要分叉的主板可能具有挑战性。并非所有适配器都是一样的,也不是每个主板都准备好释放该技术的全部潜力。然而,只要有正确的指导和一点耐心,将基本的家庭实验室设置转变为最先进的FrigateNVR监控系统是可以实现的。观看DataSlayer的以下教程,详细了解CoralAI双边加速器的强大功能。

首先,您需要DualEdgeTPU本身,它具有一个凹口,使其成为E键。虽然两种PCIe芯片都适合大多数M.2插槽,但正确的功能需要一个支持并行运行两个TPU所需的双PCIe总线的适配器。MakerFabs的双HTPU适配器薄型是一个可靠的选择,提供了成功的记录。

拥有硬件后,请按照以下步骤设置CoralAI双边加速器:

将DualEdgeTPU以30度角插入M.2插槽并将其固定。

在操作系统上安装必要的驱动程序和软件包以使硬件可用。一个简单的shell脚本可以自动执行此过程。

使用适当的命令验证您的主机是否可以识别两个TPU。

设置依赖于Docker的Frigate,并将每个TPU设备传递给容器,以便Frigate可以与它​​们通信。

通过编辑MQTT配置文件并重新启动服务来配置Frigate依赖的消息中继工具MQTT。

使用必要的设置创建Frigate配置文件(config.yml)。

使用网络摄像头或IP摄像机设置RTSP流,利用开源RTSP服务器软件和FFmpeg将视频源发送到Frigate。

有关如何设置CoralAIDualEdgeAccelerator的更全面说明,请跳转至TimMoody创建的设置页面。

监控性能和温度

CoralAI双边缘加速器启动并运行后,您可以实时监控其性能和温度。PCIe加速器可进行温度监控并具有温度调节功能,以确保最佳性能。自定义脚本可用于监视两个Coral设备的温度,为您的硬件提供有价值的可观察性指标。

本地人工智能处理

通过利用CoralAIDualEdgeAccelerator进行设备上ML处理,您可以享受众多优势,包括:

减少延迟,实现更快、响应更灵敏的应用程序

通过将敏感信息保留在本地来增强数据隐私

消除对持续互联网连接的需求

功耗极低,设置在重负载下功耗仅超过6瓦

CoralAI双边缘加速器现已上市,售价为40美元,证明了本地AI处理的强大功能和潜力。通过利用这种微小而强大的设备的功能,开发人员和爱好者可以突破边缘计算的极限,创建比以往更快、更安全、更高效的创新应用程序。有关加速器的更多信息和文档,请参阅官方Coral文档。


版权说明:本站所有作品图文均由用户自行上传分享,仅供网友学习交流。若您的权利被侵害,请联系我们


标签:

站长推荐
栏目推荐
阅读排行