Free Llama 3.1 70B API on Vercel AI Gateway

通过 Vercel AI Gateway 免费访问 Llama 3.1 70B。

关于该模型

Why choose Llama 3.1 70B?

Llama 3.1 70B provides excellent general-purpose instruction following and reasoning, offering a robust open-source alternative to GPT-4 class models.

查看 Llama 3.1 70B 的所有免费供应商

如何免费接入 (通过 Vercel AI Gateway)

为什么选择通过 Vercel 调用？

Vercel 为每个团队（包括免费的 Hobby 个人计划）每月提供了价值 $5 的系统层 AI 额度。只要您当月的调用未超出 $5 的等值 token 消耗，即可通过 Vercel AI SDK 免费试用此模型。

调用代码示例

javascript

import { generateText } from 'ai';
import { openai } from '@ai-sdk/openai';

// Often accessed via a compatible provider within Vercel's routing
const { text } = await generateText({
  model: openai('meta-llama/Meta-Llama-3.1-70B-Instruct'), 
  prompt: 'Write a quick poem about free AI models',
});
console.log(text);