การที่ได้เห็นนักบวชก็เป็นเครื่องเตือนใจว่า การบวชจะช่วยให้มีเวลาว่างเป็นของตัว จะได้คิดค้นอะไรได้มาก เพราะฉะนั้นการเห็นเทวทูตสี่จึงเป็นเครื่องเตือนใจ วันหนึ่งเสด็จออกจากปราสาทไปพักในสวน พอดีพระนางพิมพ์พาประสูติพระโอรส อำมาตย์ก็ไปกราบทูลให้พระองค์ทรงทราบว่า บัดนี้พระนางพิมพาได้ประสูติพระโอรสแล้ว เพราะองค์ก็อุทาน "ราหุลํ ชาตํ" แปลว่า "บ่วงเกิดแล้ว"
อำมาตย์ผู้นั้นได้ยินก็นึกว่า เจ้าชายสิทธัตถะตั้งชื่อลูกชายว่า "ราหุล" เลยกลับไปทูลพระเจ้าสุทโธทนะว่า มกุฎราชกุมารพอพระทัยในการที่มีลูก ตั้งชื่อให้แล้วว่า "ราหุล" ในความจริงนั้นไม่ใช่ พระองค์บ่นออกมาด้วยความรู้สึกในใจว่าบ่วงเกิดแล้ว "ราหุล" แปลว่า "บ่วง" มนุษย์เรานี่มีบ่วงอยู่ ๓ บ่วง
มีบุตร เรียกว่า บ่วงพันคอ
มีภรรยา เรียกว่า บ่วงผูกมือ
มีทรัพย์ เรียกกว่า บ่วงผูกเท้า
ถ้าตัด ๓ บ่วงนี้ได้ก็พ้นทุกข์ แต่ถ้ายังมี ๓ บ่วงนี้อยู่ ก็ยังจะต้องวุ่นวายทั้งหญิงและชายเหมือนกัน ถ้าเป็นบ่วงผูกมือของหญิง ก็คือ "สามี" ถ้าเป็นบ่วงผูกมือของชาย ก็คือ "ภรรยา" บ่วงทั้ง ๓ ในที่นี้ขยายความออกให้ชัดได้ว่า ถ้าคนมีบุตรมักกลืนอะไรไม่ลงเพราะคิดถึงลูก ถ้ามีโอกาสได้กินผลไม้อร่อย ต้องรีบเอาไปฝากลูก เท่ากับมีบ่วงพันอยู่ที่คอ คอยรัดคอให้แคบตลอดเวลา ส่วนภรรยาก็จูงมือไป (ผูกมือ) ทรัพย์ก็ผูกเท้าไว้ไม่ให้ไปไหนได้ ทำให้เป็นห่วงบ้าน ห่วงนั่น ห่วงนี่ พระองค์จึงถือว่าบ่วงเกิดแล้ว คือเกิดจากบุตรที่เกิดขึ้นแล้วนั่นเอง
ก่อนที่พระองค์จะตัดสินใจแน่วแน่เพื่อออกบวช พระองค์เสด็จเข้าไปในห้องพระนางพิมพา ได้เห็นนางกอดลูกน้อยราหุลอยู่ นึกในใจว่า ควรบอกสักหน่อยดีหรือว่าอุ้มลูกชายสักหน่อย แล้วจึงค่อยไปดี อีกใจหนึ่งบอกว่า อย่านะ ขืนปลุกก็ไม่ได้ไปเด็ดขาด นางจะกอดแข้งกอดขาไว้จะไปได้อย่างไร ก็เลยไม่ปลุกไปยืนดูใกล้ๆ ดูด้วยความรัก
พระองค์ไม่ใช่คนใจหิน ย่อมมีอาลัยอาวรณ์เป็นธรรมดา ดูแล้วถอยออกมาแล้วกลับเข้าไปใหม่ ทำท่าจะจับจะปลุกให้ลุกขึ้น แต่ใจหนึ่งก็ว่าไม่ได้ๆ อย่ายุ่ง ให้เขานอนให้สบายแล้วก็เลยถอยหลังมาที่ประตู รีบปิดประตูแล้วผลุนผลันออกไปเลย ในที่สุดพระองค์ตัดสินพระทัยทิ้งลูกน้อยที่เพิ่งประสูติ ออกบวชเมื่อพระชนม์พรรษา ๒๙ ปี เสด็จหนีออกจากพระราชวังในเวลากลางคืน ประทับบนหลังม้ากัณฐกะ มีนายฉันนะ อำมาตย์ผู้ใกล้ชิดตามเสด็จด้วย สำหรับม้ากัณฐกะและนายฉันนะนี้ นับว่าอยู่ในสหชาติทั้งเจ็ดของพระพุทธเจ้าด้วย สหชาติทั้งเจ็ด คือสิ่งที่เกิดวันเดียวกับพระพุทธเจ้า มี
๑. พระพุทธองค์
๒. พระนางพิมพายโสธรา
๓. พระอานนท์
๔. นายฉันนะ
๕. อำมาตย์กาฬุทายี *
๖. ต้นศรีมหาโพธิ์ที่พุทธคยา
๗. ม้ากัณฐกะ **
* อำมาตย์ผู้ใหญ่ท่านนี้ หลังจากพระพุทธองค์ตรัสรู้แล้ว และเที่ยวจาริกไปตามชนบทน้อยใหญ่เพื่อโปรดเวไนยสัตว์ พระเจ้าสุทโธทนะได้จัดส่ง เป็นทูตคนสุดท้าย มาทูลเชิญเสด็จกลับกรุงกบิลพัสดุ์ อำมาตย์คนก่อนๆ ที่ถูกส่งมา กลับใจออกบวชกันหมด เมื่อได้ฟังธรรมของพระพุทธองค์แล้ว ไม่ยอมกลับไปทูลรายงานให้พระเจ้าสุทโธทนะทรงทราบ กาฬุทายีก็เปลี่ยนใจ ออกบวชเช่นเดียวกันและได้สำเร็จเป็นพระอรหันต์ ได้ทูลเชิญ พระพุทธองค์เสด็จเยี่ยมกรุงกบิลพัสดุ์ได้สำเร็จ
** บางคนถามว่า ทำไมม้ามีอายุอยู่ได้ถึง ๒๙ ปีเชียวหรือ ความจริงม้าแก่อายุถึง ๔๕ ปีหรือมากกว่านี้ก็เคยมี
พระพุทธองค์เสด็จจากแคว้นศากยะวงศ์ ผ่านดินแดนกษัตริย์โกลิยะ จนมาถึงฝั่งแม่น้ำแห่งหนึ่ง เมื่อเสด็จมาถึงแม่น้ำดังกล่าว ก็เป็นเวลาสว่าง พระองค์ก็ตรัสถามนายฉันนะว่า แม่น้ำนี้ชื่ออะไร นายฉันนะบอกว่า "แม่น้ำอโนมานที" (ซึ่งแปลว่า หาที่เปรียบมิได้) พระองค์จึงตรัสต่อว่า การกระทำของพระองค์วันนี้ก็ไม่มีที่เปรียบเหมือนกัน เหมือนกับชื่อแม่น้ำนี้
นายฉันนะยังไม่รู้ด้วยซ้ำ ว่าพระองค์จะทำอะไรในวันนี้ พระองค์จึงตรัสว่า จะทรงผนวช นายฉันนะทูลทัดทานว่า ประชาชนยังจงรักภักดีอยู่ พระนางพิมพาก็เพิ่งประสูติ พระเจ้าสุทโธทนะก็แก่ชราแล้วพระองค์จะทิ้งไปได้อย่างไร แต่เจ้าชายสิทธัตถะตัดสินพระทัยแน่วแน่แล้ว จึงสั่งนายฉันนะให้นำเครื่องประดับและม้ากลับวัง นายฉันนะจึงจำใจกลับไปจากนั้นพระองค์จึงเสด็จข้ามแม่น้ำไปอีกฟากหนึ่งซึ่งเป็นดินแดนแคว้นมัลละกษัตริย์ แล้วตัดพระเมาลี(ผมมวย) ด้วยพระขรรค์ (มีด) อธิษฐานสู่เพศบรรพชิต สถานที่นี้เรียกว่าอนุปิยอัมพวัน พระองค์ตั้งพระทัยเด็ดเดี่ยวว่า จะพยายามค้นหาแต่สิ่งที่ประเสริฐเป็นหนึ่งในโลก ประทับอยู่อนุปิยอัมพวันนี้ ๗ วัน แล้วจึงเสด็จดำเนินต่อไป
ขณะที่ประทับอยู่ที่นั่น ตื่นเช้าวันแรกได้ไปบิณฑบาตขออาหารตามบ้านแถวนั้น ซึ่งเป็นป่า อาหารที่ได้มาก็เป็นอาหารแบบชาวบ้านป่า เมื่อเจ้าชายได้อาหารมาแล้ว ก็ต้องนั่งพิจารณาเสียนานกว่าจะกลืนลงไปได้ เพราะว่าเคยเสวยอาหารดี น้ำสะอาด ที่นอนสบาย อะไรๆ ดีทั้งนั้น แล้วก็เสียสละสิ่งเหล่านั้นทั้งหมด มานอนบนดินกินบนทราย หลังจากที่ประทับอยู่ ณ อนุปิยอัมพวันนี้ครบ ๗ วันแล้ว จึงเดินทางลงมาทางใต้ จนเข้าเขตแคว้นมคธของพระเจ้าพิมพิสาร เวลาเช้าก็เข้าไปบิณฑบาตอยู่ในเมืองราชคฤห์ ประชาชนแตกตื่นกันเพราะเห็นนักบวชผู้นี้เป็นหนุ่มรูปงาม แต่งกายเรียบร้อย ท่าทางสงบ น่าดู ผิดกว่าคนอื่น คนก็พากันเดินตามล้อมหน้าล้อมหลังตื่นเต้นกันไปทั้งเมือง เมื่อพระองค์ได้รับอาหารก็ออกจากเมือง ไปนั่งฉันอาหารอยู่ที่ริมห้วย
ความทราบถึงพระเจ้าพิมพิสาร จึงเสด็จมาเฝ้าที่มัณฑวะบรรพต และชักชวนให้ลาสิกขา เพราะไม่เป็นการเหมาะที่กษัตริย์จะออกภิกขาจารและ บำเพ็ญพรตด้วยความทุกข์ทรมานอย่างนี้ และสัญญาว่าจะแบ่งราชสมบัติให้ปกครอง พระพุทธองค์ไม่ยินยอม พระเจ้าพิมพิสารจึงทูลว่า
"ถ้าได้บรรลุพระสัพพัญญุตญาณเมื่อใดแล้ว ขอได้เสด็จมาสู่พระนครแว่นแคว้นของข้าพเจ้าก่อนให้ได้"
เจ้าชายให้คำสัญญาแล้วก็เสด็จต่อไปยังเมืองพาราณสี เข้าศึกษาในสำนักอาฬารดาบส กาลามโคตร ซึ่งมีชื่อเสียงที่สุดอยู่ในขณะนั้น สำนักอาฬารดาบส กาลามโคตร เป็นสำนักที่มีผู้มีความรู้สูงในทางจิต ทางฌาน ทางภาวนา เมื่อพระองค์เรียนจบความรู้ของอาจารย์จนอาจารย์ยกย่องว่า พระองค์ทรงเก่งกว่าใครๆ ทรงเรียนจบได้ถึงขั้นอากิญจัญญายตนะณานสมาบัติ เห็นว่าไม่ใช่ทางตรัสรู้ จึงเสด็จต่อไปยังสำนักของท่านอุทกดาบสรามบุตร (ซึ่งเป็นสำนักที่ให้ความรู้สูงกว่าอาฬารดาบส) ได้สำเร็จสมาบัติ ๘ เนวสัญญานาสัญญายตนะขั้นสูงสุดของสำนัก ซึ่งก็ไม่ทรงเห็นว่าจะเป็นทางตรัสรู้อีกนั่นแหละ (เพราะขณะเข้าฌานอยู่นั้นไม่มีทุกข์ก็จริง แต่เมื่ออกจากฌานแล้วจิตใจก็เหมือนคนธรรมดา) จึงเสด็จจาริกต่อไปอีกหลายแคว้นหลายตำบลในรัฐมคธขณะนั้น
จนในที่สุดเสด็จมาถึงตำบลอุรุเวลาเสนานิคม ริมแม่น้ำเนรัญชรา ติดกับพุทธคยาในปัจจุบันนี้ ได้พักแรมอยู่ที่นี่ เพราะทรงเห็นว่ามีป่าร่มเย็นสบาย แม่น้ำก็ไหลใสเย็นจืดสนิท มีทางเดินลงแม่น้ำราบเรียบ น่าเพลินใจ และมีหมู่บ้านสำหรับการออกในการบิณฑบาต สมควรจะหยุดทำความเพียรที่นี่ต่อไป จึงเสด็จไปประทับที่เชิงภูผาเขาดงคสิริ (มีชื่อต่อมาว่าคยาสีสะ) ตั้งตระหง่านอยู่เบื้องหลังระหว่างลุมพินีกับพุทธคยา ต่อมาพระปัญจวัคคีย์ (คือโกญฑัญญะ ภัททิยะ วัปปะ มหานาม และอัสสชิ) เมื่อรู้ข่าวว่า เจ้าชายสิทธัตถะออกบวชจึงได้มาขออยู่อุปัฏฐากพระองค์ โดยหวังว่าเมื่อทรงบรรลุจุดหมายแล้วจะได้สั่งสอนพวกเขาต่อไป