En el actual panorama tecnológico, donde las tecnologías críticas son cada vez más demandadas, Dell Technologies y AMD anticipan que la Inteligencia Artificial (IA) se consolida como impulsor de la innovación en 2024. Un aspecto clave en este avance es el rol de los ecosistemas abiertos. Este jueves 25 de enero, conscientes de esta tendencia, Dell y AMD han comenzado a capacitar a sus canales en colaboración con su principal socio en Bolivia DMC SA. El objetivo es claro: proporcionar a los clientes soluciones sencillas, seguras y a medida, capaces de abordar desafíos complejos mediante el uso de IA.
Claudio Salgado, Solutions Architect en Dell y Juan Moscoso, DataCenter & Cloud Manager SSA de AMD; destacan las nuevas soluciones de servidores Dell equipados con procesadores AMD EPYC para resolver problemas usando IA.
El día jueves 25 de enero, en una especial presentación para sus canales, Dell y AMD se unieron para mostrar su portafolio de Soluciones 2024 en alianza con DMC, su partner en Bolivia. Este encuentro, que tuvo lugar en Santa Cruz, brindó a las empresas a través de sus canales, una variedad de opciones para avanzar en sus respectivos caminos.
Durante la presentación Marcelo Ibañez, Gerente Enterprise en DMC S.A. y encargado de la cuenta, en consulta destacó las soluciones de servidores Dell equipados con procesadores AMD, que prometen resolver o mejorar desafíos mediante el uso de IA, a través de una implementación ágil, marcando un hito en la historia de Dell.
Uno de los avances más prometedores en la esfera de la IA es la Inteligencia Artificial Generativa (GenAI), considerada el principal acelerador de innovación de la década. La mayoría de los profesionales ven en GenAI una herramienta para impulsar la productividad, optimizar procesos y generar ahorros significativos. Aprovechar el potencial de esta tecnología se ha vuelto esencial para que las organizaciones mantengan su competitividad en la era digital emergente y para la definición de casos de uso específicos.
Poniéndo énfasis en la importancia de definir los diversos casos de uso a distintas industrias, se ha descubierto que las soluciones ciber resiliencia de Dell Technologies y AMD no sólo ofrecen un rendimiento sobresaliente, sino también una seguridad y eficiencia energética excepcionales que se vuelven cruciales para manejar las cargas de trabajo más exigentes en centros de datos.
Procesador AMD EPYC utilizados en servidores Dell
Ante tan interesante presentación realizada en las oficinas de DMC, durante el evento entrevistamos a Claudio Salgado, Solutions Architect de Dell, quien nos detalló ¿Cómo se alinean las soluciones de servidores Dell equipados con procesadores AMD con las necesidades específicas de las industrias que buscan implementar GenAI para manejar las cargas de trabajo más exigentes en centros de datos, en términos de seguridad y eficiencia energética?
Dell Technologies y AMD tienen prioridades comunes a la hora de hablar de seguridad y eficiencia por lo cual se potencian en nuestros servidores PowerEdge con AMD. Esto se ve traducido en ventajas desde distintos puntos de vista, Espacio en Rack, Consumo energético disminuye y por el contrario la capacidad de Procesamiento es hasta un 107% superior a la generación anterior y pensando específicamente en la IA generativa Dell estará lanzando el PowerEdge XE9680 que admitirá el próximo acelerador AMD Instinct 300X, ofreciendo a los clientes más opciones en lo que respecta al rendimiento en IA.
En relación con los ecosistemas abiertos, ¿cómo se integran los procesadores AMD EPYC con las soluciones de otros fabricantes y proveedores de servicios en la nube para ofrecer una experiencia más robusta y flexible a los usuarios?
Como sabemos AMD no es nuevo en el Mercado, de hecho las librerías de 64 Bits son patentadas por ellos, por lo que han estado siempre presentes en los proyectos de Software, hoy en día, sin ir más lejos podemos ver como AMD es un protagonista en el mundo de la IA y Software Libre, prueba de ello es el trabajo y difusión que realizan a través de ROCm o la respuesta que se ve a nivel de iniciativas en IA en https://huggingface.co/amd.
Por su lado los Proveedores de Nube aprovechan la seguridad intrínseca de los propios procesadores, las cuales permiten por ejemplo encriptar las VMs y/o Memoria en uso, aumentando la seguridad en ambientes multitenant.
Destacando la perspectiva de AMD, se contó con la presencia de Juan Moscoso, DataCenter & Cloud Manager SSA AMD, quién dió la visión de la marca:
¿Cómo AMD, ve el papel de la Inteligencia Artificial Generativa (GenAI) en la transformación digital de las empresas?
Primeramente, déjame comentarte que en AMD creemos que la IA será el catalizador de nuevos y grandes beneficios en las próximas décadas. La visión de AMD es hacer que la IA sea omnipresente desde la nube hasta el borde y el punto final. Apoyamos el desarrollo de la IA responsable. Hoy, ayudamos a nuestros clientes a resolver algunos de los mayores desafíos de la humanidad, como el descubrimiento de fármacos, el diagnóstico y tratamiento médico, así como la investigación científica. Sabemos que la IA es una tecnología que mejorará la oferta para todos los mercados.
Ahora, como se puede observar la inteligencia artificial está cada vez más presente en nuestro día a día sin que muchas veces nos percatemos de ello. En las empresas, esta realidad se presenta más a menudo y está tomando cada vez más protagonismo en la mejora de procesos para ofrecer una nueva experiencia a sus clientes internos y externos. Por lo mismo, según IBM Global AI Adoption Index, muestra que más del 57% de las empresas en Latinoamérica están actualmente explorando la adopción de IA como parte de su estrategia de negocio.
La IA se ofrece como una herramienta transformacional que permite generar mayor eficiencia al tomar decisiones de manera más adecuada, generando de esta manera, mayor productividad dentro de la organización, como son los ejemplos aplicables a áreas como marketing y ventas para análisis de mercado y comportamiento de clientes.
Pero esta oferta no está exenta de desafíos. El proceso de implementación de la IA genera la interacción de múltiples áreas dentro de la compañía, dado que este proceso, surge desde las necesidades puntuales del negocio y ya no desde el área de tecnología. Esta última, comienza a tomar un papel de facilitador para el negocio, y es acá donde el rendimiento superior de AMD juega un papel fundamental dado pone a disposición de la IA, la carretera adecuada para la ejecución de los procesos de transformación de la manera óptima.
En términos de rendimiento y eficiencia energética, ¿Cómo están posicionando los procesadores AMD EPYC para las demandas de la GenAI y otras tecnologías emergentes?
La eficiencia energética es de suma importancia para las comunidades de HPC e IA; sin embargo, estas cargas de trabajo requieren un gran uso de datos y recursos. Las APU AMD Instinct MI300A se benefician de la integración de núcleos de CPU y GPU en un solo paquete, lo que brinda una plataforma altamente eficiente y, al mismo tiempo, proporciona el rendimiento informático para acelerar el entrenamiento de los últimos modelos de IA. AMD está marcando el ritmo de la innovación en eficiencia energética con el objetivo 30x25 de la compañía de ofrecer una mejora de 30 veces la eficiencia energética en procesadores y aceleradores de servidores para capacitación en IA y HPC entre 2020 y 2025.
La ventaja de las unidades de procesamiento acelerado significa que las APU AMD Instinct MI300A cuentan con memoria unificada y recursos de caché, lo que brinda a los clientes una plataforma GPU fácilmente programable, computación de alto rendimiento, entrenamiento rápido de IA y una impresionante eficiencia energética para impulsar las cargas de trabajo de HPC e IA más exigentes.
En términos coloquiales: El ciclo de vida de la IA se divide en dos partes claramente definidas: El entrenamiento de la IA y la Inferencia. Durante el entrenamiento, se requiere de más datos y procesamiento. Este proceso demanda una potencia informática significativa y los servidores equipados con nuestras GPU AMD Radeon Instinct están diseñados para acelerar este proceso; Luego del entrenamiento, surge la Inferencia. Esta etapa requiere comparativamente menos poder de cómputo para procesar los datos entrantes en tiempo real, y los procesadores AMD EPYC y Ryzen son ideales para este proceso.
Para estas dos fases, las soluciones basadas en tecnología AMD ofrecen la mejor relación de rendimiento por consumo energético (watts), lo que se traduce no solo en tener capacidades superiores para aprovechar las funcionalidades de la IA, sino que también, para reducir el impacto de la huella de carbono asociado al uso de esta nueva tecnología y ser más amigables con el medio ambiente.
¿Puede proporcionar ejemplos concretos de cómo las soluciones de AMD están ayudando a las organizaciones a mejorar su productividad y optimizar estos procesos a través de la IA?
Los clientes que aprovechan la última cartera de aceleradores AMD Instinct incluyen a Microsoft, que recientemente anunció la nueva Serie de máquinas virtuales (VM) Azure ND MI300x v5, optimizadas para cargas de trabajo de IA y con tecnología de aceleradores AMD Instinct MI300X.
Juan Moscoso: "AMD impulsa el ciclo de la vida de la IA"
Además, se espera que El Capitan, una supercomputadora impulsada por una unidad de procesamiento acelerado AMD Instinct MI300A y alojada en el Laboratorio Nacional Lawrence Livermore, sea la segunda supercomputadora de clase exaescala impulsada por AMD, que ofrezca más de dos exaflops de rendimiento de doble precisión cuando esté completamente implementada.
Oracle Cloud Infrastructure planea agregar instancias bare metal basadas en AMD Instinct MI300X a las instancias informáticas aceleradas de alto rendimiento para IA de la compañía. Está previsto que las instancias basadas en MI300X admitan OCI Supercluster con redes RDMA ultrarrápidas.
Hablando concretamente, existen un sin número de casos en donde la IA basada en tecnología de AMD ya está presente en nuestras vidas. Por ejemplo, uno de los proveedores de streaming más populares, Netflix, utiliza nuestros procesadores AMD EPYC sobre instancias AWS para determinar el comportamiento de los usuarios de la plataforma y con esto, ofrecer recomendaciones de nuevos títulos basados en sus criterios de búsqueda y preferencias, para mejorar su experiencia de uso.
Otro uso muy popular se centra en la videovigilancia, donde la analítica de video juega un papel fundamental en la toma de decisiones y acciones respecto a un hecho o causa que podría, por ejemplo, detener el flujo de trabajo de una faena minera, el robo en un supermercado, la lectura de patentes de automóviles, entre muchos otros casos de uso. En esta situación, las soluciones basadas en Neural Magic, utilizan la tecnología de AMD EPYC para ejecutar aplicaciones con machine learning y dar respuesta al instante para estos casos.
Del lado de cómputo de usuario, en enero de 2023 AMD lanzó al mercado la primera generación de procesadores para portátiles equipados con un motor de inteligencia artificial, la Serie Ryzen PRO 7000, para facilitar la implementación y uso de modelos de machine learning directamente. En enero de este año, AMD nuevamente revolucionó el mercado con el lanzamiento de la nueva familia de procesadores AMD Ryzen Serie 8040 con tecnología Ryzen AI , con una NPU (Neural Processing Unit) dedicada para inteligencia artificial que llega por primera vez a los procesadores de escritorio.
Finalmente, otro ejemplo es Hugging Face, una plataforma de machine learning con más de 60.000 modelos entrenados para diferentes verticales de mercado y casos de uso, en donde destacan seguridad de la información, finanzas, retail, salud, entre otros, y en donde AMD tiene una alianza estratégica para potenciar la ejecución de estos modelos.
Por su parte, Marcelo Ibañez Gerente Enterprise en DMC S.A. y encargado de la cuenta, complementó: Dado el enfoque en la ciber resiliencia, ¿cómo están abordando los desafíos de seguridad en la implementación de IA en los centros de datos, especialmente en entornos altamente regulados o sensibles?
La capa de procesamiento tiene inserta en procesadores de AMD una tarjeta llamada Infinity Card, esta es una capa de seguridad que esta a nivel de silicio a nivel de hardware, esta es independiente al fabricante de Software, esto permite que a nivel de procesamiento AMD tenga la capacidad de encriptar memoria RAM, de aislar maquinas virtuales e incluso proteger el hipervisor, lo cual garantiza una capa adicional de seguridad para proteger datos. Esta solución se complementa con las capas de seguridad que viene con el servidor, donde Dell Technologies tiene una posición privilegiada entregando herramientas de seguridad adicionales a las que ofrece el procesador AMD EPYC.
En términos de personalización, ¿cómo están trabajando Dell y AMD de la mano de DMC para proporcionar soluciones a medida que se ajusten a los requisitos únicos de diferentes clientes en Bolivia?
Dell technologies y AMD tienen un partnership a nivel global, fuertemente reconocido y posicionado, en Latinoamérica con una extensa labor en Mexico, Brasil, Chile, etc y ahora estamos importando a Bolivia de la mano de DMC como principal socio tecnológico de Dell Technologies en Bolivia. Nuestro expertise local tanto en la parte técnica como en la comercial y apoyados en la alianza Dell-AMD harán que podamos entregar soluciones tecnológicas de alto nivel que respondan a las necesidades y/o problematicas de los diferentes usuarios.