2000年6月，杰梅因·奥尼尔和乔·克莱尼交易去了印第安那步行者队以换取戴尔·戴维斯。
2000-01赛季，杰梅因·奥尼尔在步行者队成为了球队的首发球员，在首赛季取得了场均12.9分的成绩，得分已经超过了在开拓者时期任何一个赛季的3倍，此后他的表现愈加出色。2000-01赛季赛季盖帽总数达到228个，创造步行者队记录。
2001-02赛季，杰梅因·奥尼尔取得了场均19.0分、10.5个篮板和2.3次盖帽，获得NBA进步最快球员的荣誉。他也首次入选了NBA全明星赛和NBA第三阵容。
2002-03赛季，杰梅因·奥尼尔成为联盟中仅有的三位拿到场均20分和10个篮板以上数据的球员之一。他成为NBA全明星赛的首发球员，并且入选NBA最佳阵容第三阵容。2003年1月22日步行者主场101比98险胜猛龙，小奥尼尔拿下18分、10个篮板和10个盖帽，打出步行者历史上第30个三双，其中单场盖帽10个也为步行者队记录。在这30次三双中，只有他一个人是盖帽达到两位数。赛季平均每场拿下个人职业生涯最高的20.8分，另外还有10.3个篮板2.3次盖帽。在季后赛中小奥尼尔平均每场22.8分17.5个篮板。
2003年7月，步行者队用一份7年1亿2300万的天价合同续约小奥尼尔。
2003-04赛季，杰梅因·奥尼尔取得场均20.1分和10个篮板，带领步行者队取得了61胜21负队史最佳战绩。，他也入选了NBA全明星第二阵容并且在NBA最有价值球员票选中名列第三。在季后赛中，他帮助步行者队打入东部决赛，其间受伤的小奥尼尔无法完全发挥，最终在东部决赛中2-4败给了底特律活塞队。
2004-05赛季，杰梅因·奥尼尔在2004年11月19日底特律活塞队的比赛中涉及奥本山宫殿斗殴事件，在球场上追打闹事的活塞队支持者，这一事件受到了NBA执行官大卫·斯特恩的严肃处理，经过调查在11月21日，小奥尼尔被处以25场的禁赛处罚。 在圣诞节前的仲裁上诉中杰梅因成功的将自己的禁赛场次减少了10场，但是整个2004-05赛季他还是只打了44场比赛。2005年1月4日，小奥尼尔在对雄鹿队的比赛中单场拿下55分，创造生涯最高纪录。
2005-06赛季，杰梅因·奥尼尔遭受了伤病的困扰只出场了51次，当时球迷仍然投票使他成为东部联盟的首发前锋，后来由于受伤由吉尔伯特·阿里纳斯所取代。步行者以第六位的身份晋级2006年NBA季后赛，最终在首轮2-4败给了新泽西网队。季后赛前再度复出，以第六种子的身份被篮网最终6场淘汰。不过小奥尼尔第3场的表现，成为NBA季后赛历史上首位单场得分35和篮板15以上，并有80%命中率的球员。从2002-03赛季到2005-06赛季，小奥尼尔场均得分都是在20+，并且在2002-03赛季到2003-04赛季，小奥尼尔更是场均能够砍下20+10这样的顶级数据。
2006-07赛季，杰梅因·奥尼尔缺席了13场比赛，取得了场均19.4分、9.6个篮板和2.6次助攻的数据。
2007-08赛季，杰梅因·奥尼尔因膝伤只出场了42次，场均贡献13.6分、6.7个篮板、2.2次助攻和2.1个盖帽，投篮命中率为44%。 而由于小奥尼尔的长期缺阵，步行者的战绩也大幅下滑，近两个赛季的总战绩仅为71胜93负，而且两个赛季都没能进入季后赛。 2008年夏天，多伦多猛龙队以TJ·福特及巴斯顿换取小奥尼尔。
2008-09赛季，截止2009年1月19日，杰梅因·奥尼尔总共出场29次，28场首发1次替补，场均时间只有29.1分钟，得分为13.6分，篮板有7.2个，其中得分是他个人近8个赛季的最低水平，篮板倒数第二。小奥尼尔没有很好的融入球队战术体系。猛龙队打过41场比赛，恰好是常规赛的一半，而他们的战绩仅为16胜25负，在东部排名第12，在大西洋区排倒数第二。 2009年2月13日，热火和猛龙完成交易，热火送出前锋马里昂、后卫班克斯和300万美元，换来猛龙的杰梅因·奥尼尔、马里奥·穆恩和有条件的选秀权。
2009-10赛季，31岁的杰梅因·奥尼尔代表热火出战70场常规赛，他场均有13.6分和6.9个篮板入帐，投篮命中率高达52.9%。不过在季后赛首轮同凯尔特人的交锋中小奥尼尔却被肯德里克·帕金斯的顽强防守限制的一无是处，五场比赛里场均只有4.2分5.6个篮板和2次封盖入账，投篮命中率仅为20.5%。 2010年7月9日，杰梅因·奥尼尔以两年1200万的合同与波士顿凯尔特人队签约。 可是在凯尔特人在接下来的两个赛季里，他因为伤病的原因，一共只打了49场比赛，并先后因为膝伤和手腕伤赛季报销。
2011-12赛季，杰梅因·奥尼尔出场25次，其中24场首发，场均上场22.8分钟，场均可以拿下5.0分，5.4个篮板和1.7个盖帽。 2012年3月20日，凯尔特人队宣布小奥尼尔进行左手腕手术，赛季报销。这也是2011-12赛季凯尔特人第三位报销的内线球员，另两位是杰夫·格林和克里斯·威尔考克斯。
2012年4月21日，为了给季后赛补充内线深度，波士顿凯尔特人正式签下前CBA扣篮王希恩·威廉姆斯，并且裁掉了杰梅因·奥尼尔。 2013年7月24日，勇士官方宣布同杰梅因·奥尼尔签约，在勇士队小奥尼尔身披7号球衣。
2013-14赛季，杰梅因·奥尼尔常规赛在勇士队出战44次，在场均20.1分钟内得到7.9分5.5篮板。他在博古特经常受伤病困扰的情况下成为了重要的内线支柱。季后赛中，小奥尼尔出场了全部7场比赛，场均上场12.0分钟，得到6.0分3.4篮板，表现略有下滑。 2002年，杰梅因·奥尼尔代表美国国家男子篮球队参加了在美国本土举行的世界男子篮球锦标赛的比赛，最终只获得第6名。
2003年，杰梅因·奥尼尔作为美洲锦标赛的核心球员，帮助美国队取得了2004年夏季奥运会的参赛资格，但是由于膝伤他错过了代表国家队出战雅典奥运会的机会。
