quantization | SKKU IRIS Lab

East Coast Lab Visits and Talks: Resource-Efficient AI via SW-HW Co-design

Mon, 29 Sep 2025 00:00:00 +0000

우리 연구실은 2025년 8월 미국 동부의 주요 기관인 Duke University, Cornell Tech, University of Illinois Chicago, University of North Carolina를 방문해 초청 강연과 연구 교류를 진행했습니다.

강연 주제는 ‘SW–HW 공동 설계를 통한 자원 효율적 인공지능 구현(Enabling Resource-Efficient AI via SW–HW Co-design)’이며, 혼합·다중 정밀도 양자화를 비롯한 압축 기법이 인-메모리 컴퓨팅 등 신흥 하드웨어 패러다임과 어떻게 공동 최적화될 수 있는지를 다뤘습니다. 이를 통해 연산·메모리·전력 제약이 있는 환경에서도 실용적으로 배치 가능한 AI 경로를 제안했습니다.

강연 전체 영상은 Duke Athena Seminar Series에서 확인하실 수 있습니다. 전체 녹화본: https://www.youtube.com/watch?v=_Krud-njeog

이번 방문을 따뜻하게 맞아 주신 Yiran Chen 교수님, 서재선 교수님, Amit Trivedi 교수님, Roni Sengupta 교수님께 깊이 감사드립니다. 또한 전 일정을 매끄럽게 조율해 주신 전강은 박사님과 준비·운영을 도와준 우리 연구실의 이존이, 이주찬, 연상흠 학생들에게 고마움을 전합니다.

In August 2025, our lab visited major institutions on the U.S. East Coast—Duke University, Cornell Tech, the University of Illinois Chicago, and the University of North Carolina—to deliver invited talks and conduct research exchanges.

The talks were on “Enabling Resource-Efficient AI via SW–HW Co-design,” addressing how compression techniques—including mixed- and multi-precision quantization—can be co-optimized with emerging hardware paradigms such as in-memory computing. Through this, we proposed AI deployment pathways that are practically feasible even under compute, memory, and power constraints.

The full talk video is available from the Duke Athena Seminar Series. Full recording: https://www.youtube.com/watch?v=_Krud-njeog

We thank Prof. Yiran Chen, Prof. Jae-sun Seo, Prof. Amit Trivedi, and Prof. Roni Sengupta for their warm hospitality; Dr. Kang Eun JEON for seamlessly coordinating every detail; and our students Johnny Rhe, Joo Chan Lee, and Sang Heum Yeon for their tremendous support.

Undergraduate Researchers Lead ICCV 2025 Paper on Memory-Efficient Quantization

Mon, 15 Sep 2025 00:00:00 +0000

IRIS 연구실의 학부연구생 한석호 학생(시스템경영공학과 3학년)과 윤서연 학생(전자전기공학부 졸업)이 1저자로 참여한 논문이 ICCV 2025(International Conference on Computer Vision)에 발표 승인되었습니다.

본 연구는 학부생들이 아이디어 기획부터 실험 설계, 결과 분석, 논문 작성에 이르기까지 연구 전반을 주도하여 수행했습니다. 미국 University of Arizona의 Huanrui Yang 교수 연구팀과의 국제 공동 연구로 진행되었으며, IRIS 연구실의 글로벌 연구 네트워크를 통한 협력 성과입니다.

논문 “MSQ: Memory-Efficient Bit Sparsification Quantization"은 모바일이나 엣지 디바이스처럼 자원이 제한된 환경에서 인공지능 모델을 효율적으로 학습시키기 위한 양자화 기법을 제안합니다. 기존의 비트 단위 분해 양자화는 정밀도 탐색이 유연하지만 학습 과정에서 메모리 사용량이 크게 증가하는 문제가 있었습니다.

MSQ는 비트 분해 없이 중요도가 낮은 비트만을 선택적으로 제거하는 방식으로, 학습 중 메모리와 연산량을 동시에 절감합니다. 모델 민감도 정보를 반영하여 여러 개의 LSB를 한 번에 제거할 수 있도록 설계되어, 메모리 효율성과 학습 속도를 모두 개선했습니다.

실험 결과 MSQ는 기존 방법 대비 메모리 효율성과 학습 속도에서 우수한 성능을 보였으며, 제한된 자원 환경에서도 효과적인 양자화 모델 학습이 가능함을 확인했습니다. IRIS 연구실은 앞으로도 학부생들의 주도적인 연구 참여를 지원하며, 글로벌 협력을 통해 온디바이스 AI 분야의 연구 성과를 지속적으로 창출해 나갈 것으로 기대됩니다.

자세한 내용은 정보통신대학 공식 소식에서 확인하실 수 있습니다: https://ice.skku.edu/ice/news.do?mode=view&articleNo=206415

IRIS Lab undergraduate researchers Seokho Han (3rd year, Systems Management Engineering) and Seoyeon Yoon (graduated, School of Electronic and Electrical Engineering) have had their first-author paper accepted at ICCV 2025 (International Conference on Computer Vision).

The undergraduate students led the entire research process, from initial ideation through experimental design, result analysis, and paper writing. This research was conducted in collaboration with Prof. Huanrui Yang’s team at the University of Arizona, representing a collaborative achievement through IRIS Lab’s global research network.

The paper “MSQ: Memory-Efficient Bit Sparsification Quantization” proposes a quantization technique for efficiently training AI models in resource-constrained environments such as mobile or edge devices. While existing bit-level splitting quantization offers flexible precision search, it significantly increases memory usage during training.

MSQ selectively removes only low-importance bits without bit decomposition, simultaneously reducing both memory and computation during training. By reflecting model sensitivity information to remove multiple LSBs at once, it improves both memory efficiency and training speed.

Experimental results showed that MSQ demonstrated superior performance in memory efficiency and training speed compared to existing methods, confirming effective quantized model training even in resource-constrained environments. IRIS Lab will continue to support undergraduate students’ leading research participation and is expected to consistently produce research outcomes in on-device AI through global collaboration.

For more details, please visit the official news from the College of Information & Communication Engineering: https://ice.skku.edu/ice/news.do?mode=view&articleNo=206415

IRIS Lab Undergraduate Researchers Win Awards at IEIE Competition and URP Showcase

Thu, 18 Jul 2024 00:00:00 +0000

IRIS 연구실 학부연구생들이 두 개의 경진대회에서 수상하는 성과를 거두었습니다.

김진희, 윤서연 학생은 대한전자공학회 인공지능 학부생 논문 경진대회에서 최우수상을 수상했습니다. 이 대회는 학부생들의 연구 능력을 향상시키고 학문적 교류를 활성화하기 위해 대한전자공학회 하계학술대회에서 개최됩니다.

두 학생은 하드웨어 자원에 따라 인공지능 모델의 정밀도를 유연하게 조절할 수 있는 동적신경망 연구를 수행했습니다. 기존 방식보다 메모리와 연산을 효율적으로 사용하면서도 다양한 하드웨어 환경에서 모델을 실행할 수 있도록 하는 기술을 개발했습니다.

한편, 김진희, 강도영, 백승하 학생으로 구성된 학제간 팀은 융합연구학점제 성과보고회에서 성균융합원장상을 받았습니다. 융합연구학점제는 다양한 전공의 학생들이 함께 문제를 발굴하고 해법을 찾아가는 과정을 학점으로 인정하는 제도로, 이번 학기 처음 시행되었습니다.

이 팀은 인공지능 학습 과정의 환경적 영향을 줄이기 위한 연구를 수행했습니다. 동적신경망 학습을 최적화하여 정확도를 유지하면서도 전체 학습시간을 단축시킬 수 있는 방법을 제시했으며, 이는 AI 학습의 에너지 소비를 줄이는 데 기여할 수 있습니다.

이번 수상은 연구실에서 학부생들과 함께 만들어가는 연구 문화의 한 성과입니다. 학생들이 주도적으로 질문을 던지고 답을 찾아가는 과정에서 얻은 경험들이, 이들의 연구자로서의 여정에 의미 있는 출발점이 되기를 바랍니다.

자세한 내용은 정보통신대학 공식 소식에서 확인하실 수 있습니다: https://ice.skku.edu/ice/news.do?mode=view&articleNo=178043

IRIS Lab undergraduate researchers won awards at two competitions.

Jinhee Kim and Seoyeon Yoon won the Best Paper Award at the IEIE AI Undergraduate Paper Competition. This competition is held at the IEIE Summer Conference to enhance undergraduate research capabilities and activate academic exchange.

The two students conducted research on dynamic neural networks that flexibly adjust AI model precision according to hardware resources. They developed technology that uses memory and computation more efficiently than existing methods while enabling model execution across diverse hardware environments.

Meanwhile, an interdisciplinary team of Jinhee Kim, Doyeong Kang (Mathematics), and Seungha Baek (Mechanical Engineering) received the Director’s Award at the URP Showcase. The Undergraduate Research Program is a credit-recognized system where students from various majors work together to identify problems and find solutions, launching for the first time this semester.

This team conducted research to reduce the environmental impact of AI training processes. They proposed methods to optimize dynamic neural network training, maintaining accuracy while shortening overall training time, which can contribute to reducing energy consumption in AI training.

These awards represent an outcome of the research culture we build together with undergraduate students at the lab. We hope the experiences gained through the process of actively raising questions and finding answers will serve as a meaningful starting point in their journey as researchers.

For more details, please visit the official news from the College of Information & Communication Engineering: https://ice.skku.edu/ice/news.do?mode=view&articleNo=178043