开发者实战丨如何利用 OpenVINO™ 部署 Phi-3.5 全家桶
作者 | 杨亦诚 英特尔 AI 软件工程师、卢建晖 微软高级云技术布道师 近期微软发布其最新的 Phi-3.5 系列 SLM 模型， Phi-3.5-mini, Phi-3.5-vision, 以及 Phi-3.5-MoE，其中 Phi-3.5-mini 增加了多语种以及128k上下文长度的支持，提升中文输入的使用体验；Phi-3.5-vision 全面支持多图片理解任务，拓宽了其在视频理解任务类
openlab_96bf3613
9月前
Intel AI Summit上海站顺利举办，边缘AI技术与开发套件融合推动行业革新与应用拓展
会议视频（https://pan.baidu.com/s/1wIrA_XkhTv_9hRDem-j_9Q?pwd=2mfx）9月6日，“智汇前沿·赋能行业”Intel AI Summit在上海圆满举行。本次活动由英特尔主办，并得到了信步科技、冰鲸科技、研扬科技、控道智能科技、极视角科技、亿琪软件、鸿陆科技及InnoSpace等多家支持，本次峰会聚焦于边缘AI技术和开发套件的融合应用，旨在通过深入的
openlab_96bf3613
9月前
概述 目前OpenVINO™ 2024.3 最新版本现已开放下载！OpenVINO™一直致力于各项性能的研发，不断优化用户体验，拓宽 OpenVINO™ 的功能边界，让AI能够更加简单！ 在当今时代，生成式 AI 正被应用程序设计人员以惊人的速度广泛应用。这种应用不仅体现在传统的 REST API 形式上，即通过商业云服务模型来实现，而且在客户端和边缘领域也日益凸显。如今，越来越多的数据在客户端
openlab_96bf3613
9月前
用OpenVINO™+vLLM在酷睿™ Ultra处理器上部署大语言模型（LLMs）丨开发者实战
作者：东莞职业技术学院 虞晓琼 博士 前面已介绍使用Optimum Intel工具包，OpenVINO GenAI Python API和OpenVINO GenAI C++API来部署大语言模型，本文将介绍在酷睿™ Ultra处理器上使用OpenVINO™ +vLLM部署大语言模型 (LLM*****r/>1. vLLM简介 vLLM是一个由加州大学伯克利分校开发的用于快速实现的大语言模型 (
openlab_96bf3613
9月前
OpenVINO™ JavaScript API详解与范例丨开发者实战
作者：腾讯科技前端开发 涂小丽 从OpenVINO™ 2024.0开始，官方除了提供Python/C/C++ API外，还新增了JavaScript API。通过OpenVINO™ JavaScript API，开发者可以非常方便的将AI能力嵌入到网页形式的应用中去。 本文将介绍常用的OpenVINO™ JavaScript API，并给出基于yolov8s-cls模型的推理范例程序。请读者先下载
openlab_96bf3613
9月前
