ルドルフは24日にアーヘン大聖堂で1273年に戴冠した。 ローマ教皇の承認を得るために、ルドルフはローマ、教皇領、シチリア島のすべての帝国の権利を放棄し、新しい十字軍を率いることを約束した。 教皇グレゴリウス10世は、ボヘミア王オタカル2世の抗議にもかかわらず、ルドルフ自身を認めただけでなく、1257年にオランダ王ウィリアム2世の後継者としてドイツ（反）王に選ばれたカスティーリャ王アルフォンソ10世（シュヴァーベン公フィリップの孫）にも同じことをさせるよう説得した。 このように、ルドルフは、彼が以前に忠実に仕えていたホーエンシュタウフェン朝の二人の相続人を上回った。

1274年、ニュルンベルクの帝国議会は、皇帝フリードリヒIIの死以降に押収されたすべての王冠領を回復しなければならず、王Ottokar IIは新しい王を認識しないために国会に答えなければならないことを決定した。 オスマン帝国は、最初の妻であるバーベンベルクの相続人を通じて主張していたカルニオラの行進とともに、オーストリア、スティリア、ケルンテンの公国を復活させることを拒否し、別のバーベンベルクの相続人であるバーデン辺境伯ヘルマン6世と争っている間に押収した。 ルドルフはオスマン帝国のバベンベルク家相続に反論し、諸州は男性の相続人がいなかったために皇帝の王冠に戻ったと宣言した。 1276年6月、オスマン帝国はオスマン帝国に対する宣戦布告を行った。

オスマン帝国の元同盟国であった下バイエルン公ヘンリー XIIIを説得して、ルドルフは1276年にボヘミア王に四つの州を王政の支配に割譲させた。 ルドルフはオタカルをボヘミア王国に再投資し、娘の一人をオタカルの息子ヴァーツラフ2世と婚約させ、勝利を収めてウィーンに入った。 しかし、オタカルは条約の実行について疑問を投げかけ、ニーダー・バイエルンのヘンリク13世を含むいくつかのドイツ諸侯の支持を得た。 この同盟を満たすために、ルドルフはハンガリー王ラディスラウス4世と同盟を結び、ウィーン市民に追加の特権を与えた。 1278年8月26日、マルヒフェルトの戦いでオスマン帝国軍は敗北して戦死した。 モラヴィア辺境伯は鎮圧され、その政府はルドルフの代理人に委ねられ、オスマン帝国の未亡人であるスラヴォニアのクニグンダはプラハ周辺の州のみを支配し、若いヴァーツラフ2世は再びルドルフの末娘ジュディスと婚約した。

ルドルフの注意は、次にオーストリアと隣接する州の所有物に目を向け、それは王室のドメインに取り込まれました。 彼はそこに彼の権威を確立する数年を過ごしたが、それらの州の支配の後継者として彼の家族を確立することにいくつかの困難を発見しました。 結局、王子の敵意は克服されました。 1282年12月、アウクスブルクのホーフタグ（帝国議会）において、ルドルフは息子のアルベルトとルドルフ2世をオーストリア公国とシュタイアーマルク公国に投資し、ハプスブルク家の基礎を築いた。 さらに、コンラディンが処刑されて以来、公国は実際の支配者がいなかったため、12歳のルドルフ-シュヴァーベン公を単なる名誉的な尊厳とした。 27歳のアルベール公は、1274年からゴリツィア-チロル伯マインハルト2世（1238年-95年）の娘と結婚し、新しい遺産にある程度の揺れを保持するのに十分な能力を持っていた。

1286年、ルドルフ王はアルベルトの義父マインハルト伯をオスマン帝国から奪われた征服された州の一つであるケルンテン公国に完全に投資した。 帝国の王子たちは、ルドルフが王室に回収されたすべてのものを自分の息子たちに与えることを許さず、彼の同盟国も報酬を必要としていました。 1281年に西に向かうと、サヴォイア伯フィリップ1世に領土を割譲させ、ベルン市民に拒否していた貢納を強制した。 1289年、彼はフィリップ伯の後継者であるオットー4世に対して行軍し、敬意を払うよう説得した。1281年、ルドルフの最初の妻が死去した。 1284年2月5日、フランス王国の西隣国ブルゴーニュ公ヒュー4世の娘イザベラと結婚した。

ルドルフは内部の平和を回復することにあまり成功していませんでした。 バイエルン、フランコニア、シュヴァーベンに土地を設立するための命令が出され、その後は帝国全体のために出された。 しかし、王は権力、資源、およびそれらを強制する決意を欠いていたが、1289年に彼はテューリンゲンへの遠征を率いて、そこで多くの強盗の城を破壊した。 1291年、彼は息子のアルベルトをドイツ王に選出しようとした。 しかし、選挙人たちは二人の王を支持することができないと主張して拒否したが、実際には、おそらくハプスブルク家の権力の増加に警戒した。 ルドルフの死後、彼らはナッサウ伯アドルフを選出した。