作者:匿名
更新:6小时前

Gemini AI Nano 是一个由 Google 开发的大型语言模型(LLM),现已内置于 Chrome 浏览器中。它提供了一些显著的优势,使其成为用户端任务的极佳选择,

1. Chrome内置的Gemini AI Nano特点:

1. 真的很快。其他类似的 LLM(例如 Phi3 和 LAMMA3)相比,Gemini Nano 的运行速度明显更快。这使其非常适合需要快速响应的实时应用,例如语法检查和翻译。

2. 可以离线本地运行,无需外部API,不担心弱网络;不用担心敏感数据外泄。

3. 本地部署,网页可以可以用Javascript直接调用。Gemini Nano 模型存储在您的设备上,而不是在云端。这为您提供了对数据的更大控制权,并确保即使在互联网连接中断的情况下您也能继续使用该模型。

4. 多种语言支持:支持多达 8 种语言,包括英语、中文、法语、德语、西班牙语、日语、韩语和土耳其语。

在本地运行的是Gemini 3.5B版本

5. 可扩展性: Gemini Nano 旨在可扩展,这意味着它可以随着时间的推移进行改进和更新。这确保您可以继续获得最新的功能和性能改进。

总而言之,Gemini AI Nano 在 Chrome 中提供了一系列令人印象深刻的功能,使其成为各种用户端任务的强大工具。其快速的速度、离线功能、本地部署、多语言支持和可扩展性使其成为寻求功能强大且易于使用的 LLM 的用户的绝佳选择。

以下是一些您可以使用 Gemini AI Nano 的具体示例:

  • 检查语法和拼写错误
  • 实时翻译文本
  • 识别和描述图像
  • 总结文本
  • 创建不同类型的创意文本格式,如诗歌、代码、脚本、音乐作品、电子邮件、信件等
  • 以信息丰富的方式回答您的问题
  • 具备语音转文本STT,文本转语音TTS

随着 Gemini AI Nano 的不断发展和改进,我们可以期待看到它在未来几年中支持的更多创新应用。

2. 为什么不直接用网页版的gemini?

一些操作比如实时翻译,语音转文字,文字转语音,语法纠正,图片识别,本地处理速度远快于API调用,而且可靠性要高。

API调用受限于网络状态,服务端服务负荷等多种因素,可靠性远不如本地处理。

本地处理一些任务,也有助于缓解大规模应用对服务器的压力。目前微软,谷歌都在做嵌入终端设备的AI模型。

3. 如何安装使用Gemini AI Nano:

3.1  更新Chrome到最新版本

3.2 修改Chrome配置

Chrome浏览器地址栏输入

chrome://flags/#prompt-api-for-gemini-nano

修改为 Enabled

3.3 自己的网页调用验证

然后可以在控制台用这个两个命令测试是否启用,

const model = await window.ai.createTextSession();

await model.prompt("today's date");

这两句需要分别回车。

3.4. 安装调用界面插件

1. 调用界面1:

前往Chrome应用商店

https://chromewebstore.google.com/detail/mjbnaihbmfffiboanaecmeipafliekkn

Screenshot of Chrome extension page for Inspiration Mushroom AI Assistant with purple background mobile app interface showing AI settings toggle switches and loading options

下载安装后在右上角插件设置固定灵感菇插件

点击打开插件设置页面,触发Chrome内置AI模型加载

加载完毕后刷新 X 等网站即可看到AI增强功能

2. 调用界面2:早期测试版时的

直接打开下面地址就可以体验了:https://chrome-ai-demo.vercel.app/

或者安装插件:https://chromewebstore.google.com/detail/chrome-ai-chrome-built-in/emlpbjnkjcbepocijpjggfmmloipamia

所有功能100%离线运行请放心使用

4. 其他问题

4.1 Chrome 中的 Gemini Nano

Chrome 使用 Gemini Nano 语言模型。Gemini Nano 无法在移动设备上使用。

从 Chrome 140 开始,Gemini Nano 支持使用英语、西班牙语和日语输入和输出文本。

4.2 硬件

开发者和在 Chrome 中使用这些 API 运行功能的用户必须满足以下要求。其他浏览器可能有不同的运行要求。

Language Detector API 和 Translator API 可在桌面版 Chrome 中使用。这些 API 不适用于移动设备。当满足以下条件时,Prompt API、Summarizer API、Writer API、Rewriter API 和 Proofreader API 可在 Chrome 中运行:

  • 操作系统:Windows 10 或 11;macOS 13 及更高版本(Ventura 及更高版本); Linux;或 ChromeOS(从平台 16389.0.0 及更高版本开始)在 Chromebook Plus 设备上运行。 非 Chromebook Plus 设备上的 Android 版 Chrome、iOS 版 Chrome 和 ChromeOS 版 Chrome 尚不支持使用 Gemini Nano 的 API。
  • 存储空间:包含 Chrome 个人资料的卷上至少有 22 GB 的可用空间。
  • GPU 或 CPU:内置模型可以使用 GPU 或 CPU 运行。
    • GPU:VRAM 严格大于 4 GB。
    • CPU:16 GB 或更多 RAM 和 4 个或更多 CPU 核心。
  • 网络:无限流量或不按流量计费的网络连接。
Tags: Chrome   Gemini   Nano   AI  
7小时前
16
1
0