使用chainlit出现【无法访问服务器】或【Could not reach the server.】解决方案
在用chainlit的时候老是出现
无法访问服务器。
或者 Could not reach the server.
刚开始以为是代码问题,但是后端代码打log依旧稳定输出,没有问题。
确保后端代码没问题之后,开始DEBUG,最终发现是chainlit本身的timeout的设置问题
相关 iuuse
- https://github.com/Chainlit/chainlit/issues/441
DEBUG
启动脚本:chainlit run chainlit_example.py -w
example 1
import time
import chainlit as cl
def sync_func():
time.sleep(60)
return "Hello!"
@cl.on_message
async def main(message: cl.Message):
print(message)
answer = sync_func()
await cl.Message(
content=answer,
).send()
print(answer)
print(answer)可以打印成功,但是前端界面显示超时。
example 2
如果把sleep改成10,则没问题
很显然是60s超时了,并在是对于一个@cl.on_message维度下有个超时的概念
example3
cl提供了这么个方法,可以异步的解决这个问题:cl.make_async
import time
import chainlit as cl
def sync_func():
time.sleep(60)
return "Hello!"
@cl.on_message
async def main(message: cl.Message):
print(message)
answer = await cl.make_async(sync_func)()
await cl.Message(
content=answer,
).send()
print(answer)
这样就可以解决了,你甚至可以把sleep调大更多, 10min也是没问题的
example 4
如果本身func就是个sync方法怎么办呢,那就再打包一层!
import time
import asyncio
import chainlit as cl
async def sync_func():
time.sleep(60)
return "Hello!"
def func():
return asyncio.run(sync_func())
@cl.on_message
async def main(message: cl.Message):
print(message)
answer = await cl.make_async(func)()
await cl.Message(
content=answer,
).send()
print(answer)