杨国桢率先在中国国内开展光计算研究，提出利用单个全息透镜组成的光学系统实现多种给定变换的理论并在实验上成功地实现了一些典型例证。发展了光学系统位相恢复的理论，提出一种处理有损耗系统的相位恢复的新算法。研究光脉冲在非线性介质中传播的理论，解释了光脉冲谱线的超加宽现象和超加宽的非对称性。在领导开展表面、界面、量子阱等的非线性光学的理论与实验研究，在主持开展激光法制备氧化物薄膜和研制激光分子束外延设备，在液氮温区氧化物超导材料研究等方面取得重要成果。