Tu Trinh Hoang
Software Engineer | Software Engineer (in Training) at Grab | Hackathon Hunter & AI Researcher
Kỹ sư Backend (đang được đào tạo) tại Grab | Nghiên cứu sinh chưa tốt nghiệp & Thợ săn Hackathon Công nghệ
Ho Chi Minh City, Vietnam
Actions
Trinh Hoang Tu is a Cybersecurity student at HUFLIT and a Software Engineer (in Training) at Grab, working on large-scale backend systems. Passionate about distributed systems and applied AI, he has participated in 30+ hackathons and received an Excellence Award at Tsinghua University's Global AI Competition 2026. He is the first author of a research paper accepted at SOICT 2026 and the second author of another accepted at CSoNet 2026. His technical interests include event-driven microservices, cloud-native infrastructure, and real-time data processing.
Trịnh Hoàng Tú là sinh viên chuyên ngành An ninh mạng tại HUFLIT, hiện đảm nhiệm vị trí Kỹ sư Phần mềm (Backend, đang trong chương trình đào tạo) tại Grab, tham gia phát triển các hệ thống backend quy mô lớn. Với kinh nghiệm tham gia hơn 30 cuộc thi và hackathon công nghệ, Tú đã đạt Giải Xuất sắc tại Cuộc thi Đổi mới Ứng dụng AI và Vật liệu Toàn cầu 2026 do Đại học Thanh Hoa tổ chức. Trong lĩnh vực nghiên cứu khoa học, Tú là tác giả đứng đầu của công trình được chấp nhận tại SOICT 2026 và đồng tác giả thứ hai của công trình được chấp nhận tại CSoNet 2026. Định hướng chuyên môn của Tú tập trung vào hệ thống phân tán, kiến trúc microservices hướng sự kiện, hạ tầng cloud-native và xử lý dữ liệu thời gian thực phục vụ các ứng dụng trí tuệ nhân tạo.
Links
Badges
Area of Expertise
Topics
Zero-Waste GPU Inference Pipelines for Multi-Camera AI Systems en vi
Running AI inference for large-scale camera systems often leads to massive GPU waste because each service performs redundant detection and processing on the same frames.
This talk presents a real-world architecture for building a zero-waste AI video pipeline using an event-driven design. Instead of repeating expensive inference, a single “master detector” processes frames once and publishes structured metadata through Redis Streams, allowing downstream services to reuse results for tasks such as license plate recognition, face recognition, and identity fusion.
We will explore how shared memory buffers, distributed consumers, and event streaming enable scalable multi-camera processing while dramatically reducing GPU load. The session covers architectural decisions, performance trade-offs, and lessons learned when operating AI video systems in production environments.
• Target Audience: Backend Engineers, DevOps, AI Infrastructure Engineers, System Architects.
• Core Tech Stack: Redis Streams, Python, C++, Shared Memory, GPU Inference, Docker.
Xây dựng Hạ tầng Xử lý AI Tối ưu hiệu suất GPU cho Hệ thống Multi-Camera en vi
Việc vận hành mô hình AI để xử lý dữ liệu camera quy mô lớn thường gây lãng phí tài nguyên GPU rất lớn do các dịch vụ độc lập phải lặp lại các bước phát hiện (detection) và xử lý trùng lặp trên cùng một khung hình.
Bài chia sẻ này giới thiệu một kiến trúc thực tế giúp tối ưu hóa hạ tầng xử lý video AI thông qua mô hình hướng sự kiện (event-driven). Thay vì lặp lại các tác vụ inference đắt đỏ, hệ thống sử dụng một "master detector" để xử lý khung hình một lần duy nhất, sau đó phân phối siêu dữ liệu cấu trúc (structured metadata) qua Redis Streams. Nhờ vậy, các dịch vụ hạ nguồn (downstream) có thể tái sử dụng dữ liệu này cho các bài toán chuyên biệt như nhận diện biển số xe, nhận diện khuôn mặt và đồng bộ danh tính (identity fusion).
Chúng ta sẽ cùng đào sâu vào cách kết hợp giữa bộ nhớ chia sẻ (shared memory buffers), kiến trúc phân tán (distributed consumers) và luồng sự kiện (event streaming) nhằm mở rộng hệ thống đa camera trong khi giảm tải tối đa cho GPU. Bài thuyết trình cũng đề cập đến các quyết định thiết kế kiến trúc, đánh giá đánh đổi hiệu năng (performance trade-offs) và bài học thực chiến khi vận hành hệ thống video AI trong môi trường production.
• Target Audience: Backend Engineers, DevOps, AI Infrastructure Engineers, System Architects.
• Core Tech Stack: Redis Streams, Python, C++, Shared Memory, GPU Inference, Docker.
Tu Trinh Hoang
Software Engineer | Software Engineer (in Training) at Grab | Hackathon Hunter & AI Researcher
Ho Chi Minh City, Vietnam
Links
Actions
Please note that Sessionize is not responsible for the accuracy or validity of the data provided by speakers. If you suspect this profile to be fake or spam, please let us know.
Jump to top