国产API转发很可能和天猫一样真假掺着卖的

zhoutiancai

最近试验了好几家的API，名称不打了，发现一个问题，速度上比官方慢一点点

尤其是你问鲁迅和周树人的时候，他们的回答是一个答案，就是同一个人

但相同的问题其他问题，对比官方有明显的差异，并不像的4.0答出来的

我有个大胆的假设，价格这么便宜，很可能你的问题下去，有前置给分流了

比如这个问题的难度，随机分配到后端，后端根据难度分给3.5 什么微软 什么国产或者GEMINI或者其他的模型

有没有这种可能性，讨论一下，和天猫店，正品和假的掺着卖一个原理

消费者以为讨便宜低价API实际上并不是全部是4.0的回答，最终解释价格问题

zhoutiancai

hhxx 发表于 2024-2-23 08:27
感觉会有缓存之类的东西，那些常见问题一旦有过一次就不会反复请求了
不过毕竟价格放在那里 也可以忍了 ...

是的 价格低，也不好说什么，能明说更好，消费的明明白白

azoth07

这不是早就这样了吗我记得api2d就是这样弄，不断收集用户几个常问和openai固定回答，然后用向量数据库去回流，这样节省token啊，向量数据库查不到的再去调取海外的openai。

Nothing1024

4没出的时候就已经真假混搭了。

oneperfect

zhoutiancai 发表于 2024-2-23 13:05
你的网站都没有介绍啊，直接就进注册页面了

因为我不是专门卖这个的啊
只不过有多的，可以卖

Tou

4确实不好说，参假能最大利润。如果是3.5的成本几乎忽略不计，一个5刀号批发价0.08，8分钱上万问题，自撸成本更低，3.5完全没必要

zhoutiancai

oneperfect 发表于 2024-2-23 10:34
看你能接受的价格咯，我甚至可以给你直接卖 官方key。

你的网站都没有介绍啊，直接就进注册页面了

oneperfect

看你能接受的价格咯，我甚至可以给你直接卖 官方key。

Nothing1024

Eon 发表于 2024-2-23 10:27
openai炸得时候，微软不一定炸。不过微软得如果用得流式api得话，字不是一个个蹦出来，会一次出好几个， ...

这点确实是，我想少了

Eon

Nothing1024 发表于 2024-2-23 08:31
说明白就坑不到人了
openai官方api炸的时候，你看谁家不能用谁家一般都是正品 ...

openai炸得时候，微软不一定炸。不过微软得如果用得流式api得话，字不是一个个蹦出来，会一次出好几个，体感上会比openai卡一点。

zhoutiancai

azoth07 发表于 2024-2-23 09:46
api2d每次调用最低消耗1P，命中缓存免费。重复率高的聊天场景，甚至比OpenAI官方接口更省钱 ...

这个明说的还真不错，比装不知道的强，马上去看看

我是老王

azoth07 发表于 2024-2-23 09:46
api2d每次调用最低消耗1P，命中缓存免费。重复率高的聊天场景，甚至比OpenAI官方接口更省钱 ...

感谢推荐，我去看看

azoth07

api2d每次调用最低消耗1P，命中缓存免费。重复率高的聊天场景，甚至比OpenAI官方接口更省钱