他于 2001 年正式加入苹果。彼时苹果正处于乔布斯执掌大权的上升时期,虽然还只是一位小人物,但作为产品设计团队的一员,依旧能受到这家公司在乔布斯领导下的工程文化和实际理念熏陶。2013 年,Ternus 正式晋升硬件工程副总裁,开始负责监督每一代 iPad 、AirPods 的开发,以及部分 Mac 的工作,比如毁誉参半的 Touch Bar,就是他接管 Mac 后带来的新功能。而如果要评选 Ternus 迄今为止的最大贡献,那必须是负责了 Mac 从 Intel 到自研芯片的顺利过渡,并且挽回了 Mac 系列从 2016 年开始不断下滑的口碑。2020 年,他在苹果活动上,负责了 M1 Mac 产品发布的主讲工作。
M1 发布的同一年,苹果最重要的硬件产品,也就是 iPhone,也正式交到了 John Ternus 的手上。在帮 Mac 打完翻身仗之后,2021 年,John Ternus 正式晋升硬件高级副总裁,并于 2022 年底接替 Jeff Williams 开始负责 Apple Watch 硬件。苹果内部对 Ternus 的印象总体都不错。有内部人士透露,库克很喜欢 Ternus,觉得他演讲很精彩,对待他人也很温和,决策也比较谨慎。有人认为他身上「很多库克式的管理特质」。