2025/02/10
DeepSeek detonó el calor de despliegue local, y los individuos y las empresas corrieron a entrar en el juego
A medida que DeepSeek continúa siendo popular, la gente no está satisfecha con el uso de DeepSeek en la web y el lado de la APP, y tratan de localizar DeepSeek.La localización implica la instalación de grandes modelos de IA de DeepSeek en computadoras localesLos periodistas buscaron en sitios web de videos y encontraron que muchos usuarios subieron tutoriales sobre cómo implementar DeepSeek en computadoras locales,y muchos videos fueron vistos más de 1 millón de veces.
DeepSeek desencadena el auge del despliegue local
Enseñar a la gente a implementar DeepSeek también se ha convertido en un negocio.El reportero descubrió que muchas tiendas han abierto el negocio de despliegue local DeepSeek, y el precio unitario de estos servicios varía de unos pocos dólares a docenas de dólares, y algunos de estos servicios han sido recientemente comprados por 1.000 personas.
Un entusiasta de la IA que ha intentado implementar dijo a los periodistas que la velocidad de respuesta del lado de la red es lenta, y cuando el tráfico es demasiado grande, a menudo hay "el servidor está ocupado,Por favor, vuelva a intentarlo más tarde.Para obtener una mejor experiencia, intentó usar DeepSeek para la implementación local.a través del tutorial paso a paso, se puede desplegar con éxito.
Zhang Yi, analista jefe de IIMedia Consulting, dijo a los periodistas: "La implementación local apoya a las personas a hacer algunas modificaciones personalizadas a DeepSeek de acuerdo con sus necesidades,que es también una de las fuerzas motricesZhang Yi agregó que los datos personales en la implementación local no van a la nube, lo que puede satisfacer las necesidades de privacidad.
DeepSeek publicó modelos con diferentes números de parámetros, desde tan pequeños como mil millones de parámetros hasta tan grandes como 671 mil millones de parámetros, y cuanto más grandes sean los parámetros,cuanto mayores sean los recursos computacionales requeridosDebido a los recursos informáticos limitados de dispositivos como ordenadores personales y teléfonos móviles, el modelo DeepSeek de 671 mil millones de parámetros a menudo no puede implementarse localmente."Un portátil típico sólo puede desplegar una versión de mil millones de parámetros, pero una PC con una buena GPU o alta memoria (digamos 32GB) puede ejecutar una versión de 7 mil millones de parámetros de DeepSeek". Los entusiastas de la tecnología de IA dijeron a los periodistas.
En cuanto al efecto del despliegue local, cuanto menor es la versión de los parámetros, peor es la calidad de respuesta del modelo grande."Intenté la versión de 7 mil millones de parámetros de DeepSeek desplegada localmente, y funcionó sin problemas, pero la calidad de respuesta fue mucho peor que la versión en la nube, y el efecto de la versión de parámetros más pequeños fue aún peor".
Bajo el calor del despliegue local de DeepSeek, se espera que los PCS de IA que añaden específicamente NPU a los PCS den paso al crecimiento de las ventas.Lenovo y otras marcas de computadoras han lanzado AI PC, este nuevo PC está equipado con procesamiento especializado de despliegue local de chips de procesador de computación de grandes modelos de IA, estos chips de procesador son proporcionados por Intel, AMD,Qualcomm y otras fábricas de chips.
Estos PCS de IA se pueden implementar localmente y ejecutar sin problemas decenas de miles de millones de parámetros del gran modelo de IA, como este CES 2025, AMD lanzó procesadores de la serie Ryzen AI max,diciendo que la computadora puede ejecutar 70 mil millones de parámetros de la IA modelo grandeSin embargo, el PC de IA equipado con el chip del procesador es caro, y se entiende que el precio de un libro de juegos de Asus es de casi 15,000 yuanes.Algunas personas han cuestionado que gastar mucho dinero para comprar AI PCS, llevar a cabo el despliegue local de grandes modelos de IA y lograr funciones que se superponen mucho con los grandes modelos de IA en la nube, AI PC es solo un truco de los fabricantes.
Las empresas intentan implementar DeepSeek localmente
Además de los individuos que abren el despliegue local de DeepSeek, las empresas también están empezando a intentarlo.el fundador de Timwei Ao, lanzó un círculo de amigos de Wechat: "DeepSeek modelo grande experiencia de despliegue de computadoras locales éxito, importa base de datos de conocimiento de seguridad de minas de carbón para preguntas y respuestas,El siguiente paso es combinarlo con las operaciones industriales de campo."
Timviao es una empresa que proporciona soluciones de gestión industrial para la industria minera, la industria petrolera y otras industrias,utilizando gafas AR y software de IA para proporcionar observación y orientación en tiempo real para el mantenimientoWang Jiahui dijo a los periodistas que sólo Tongyi Qian le pide a la IA un modelo grande para crear una base de conocimientos local.En vista de DeepSeek mejor capacidad de razonamiento, está considerando DeepSeek y la integración profunda de negocios.
"Sobre la base de DeepSeek, ajustamos los parámetros específicos o los desarrollamos de forma secundaria para adaptarlos a los sistemas de TI e implementamos nuevas funciones basadas en las necesidades y los datos de escenarios industriales específicos."Nuestro objetivo es desplegar DeepSeek localmente e interactuar con las cámaras en el campo para identificar mejor las operaciones peligrosas en el sitio, y para implementar funciones como la detección de peligros ocultos y la inspección de la calidad del producto", dijo Wang a los periodistas.
En su opinión, si los clientes industriales adoptan el despliegue local depende principalmente de la confidencialidad de los datos.Las compañías de equipos militares y médicos a menudo nos piden implementar soluciones de despliegue local porque tienen altos requisitos de seguridad de datosAñadió además: "Los escenarios no secretos pueden utilizar soluciones de acceso a la nube, aunque habrá retrasos operativos, pero el impacto es pequeño y el precio de la solución es más bajo".
Para las implementaciones locales, estos clientes requieren servidores equipados con un GPU de 4 o 8 tarjetas para implementar los servicios de inferencia local de DeepSeek."Mis clientes generalmente eligen tarjetas gráficas de consumo de Nvidia para configurar sus servidores"Si los clientes tienen requisitos de configuración doméstica, compraremos tarjetas gráficas GPU domésticas más caras", dijo Wang.
Además de la industria, cada vez más empresas están comenzando a implementar DeepSeek localmente.Investigación de la industriaAdemás, las empresas de la industria médica, la seguridad de la red y otras industrias también han desplegado recientemente DeepSeek localmente,incluyendo Wanda Información y Qihoo 360.
Zhang Yi dijo a los periodistas que a medida que las empresas amplíen sus requisitos para el despliegue localizado, la demanda de potencia de computación de razonamiento doméstico aumentará,y los Estados Unidos prohíben los chips de gama alta, las compañías nacionales de energía de computación de chips darán lugar a mayores oportunidades.
Las aplicaciones de IA explotarán
El CEO de Qualcomm, Cristiano Amon, dijo que DeepSeek-R1 es un punto de inflexión para la industria de la IA, el razonamiento de la IA migrará al lado final, la IA se hará más pequeña, más eficiente y más personalizada,y AI grandes modelos y aplicaciones de IA basadas en escenarios específicos apareceránEl informe de China Aviation Securities Research cree que DeepSeek-R1 muestra que el despliegue de IA de extremo a extremo se hará más inclusivo, y la era de todas las cosas inteligentes se acelerará.
El código abierto atraerá a más desarrolladores a construir aplicaciones sobre DeepSeek. Las tarjetas GPU domésticas como Huawei Centeng, Moore Thread, Bishi Technology y Daywise Core se han adaptado a DeepSeek;Nube de Tencent, Alibaba Cloud, la nube móvil, Huawei Cloud y otros fabricantes de nube también completaron la adaptación con DeepSeek.Se espera que la optimización de la adaptación de la potencia de cómputo doméstica reduzca aún más el costo del lado de la inferencia.
Como el hábito de pago de aplicaciones domésticas aún no está completamente maduro, la comercialización de aplicaciones de IA puede verse obstaculizada.cree que los Estados Unidos tienen una base de 10 o incluso 20 años para el pago de la solicitud, lo que es útil para la comercialización de aplicaciones de IA, mientras que el mercado interno será lento debido a la falta de tal base.y se espera que el calendario se reduzca a menos de medio año.
Leer más
¡Su mensaje debe tener entre 20 y 3.000 caracteres!
