อำเภอสะบ้าย้อย จังหวัดสงขลา ได้ปรากฏหลักฐานเอกสารราชการครั้งแรกเมื่อ พ.ศ. 2440 (ร.ศ.116) เป็นเขตการปกครองของอำเภอเทพา จังหวัดสงขลา ต่อมาเมื่อ ปี พ.ศ. 2467 ได้รับการยกฐานเป็นกิ่งอำเภอ เรียกว่า "กิ่งอำเภอบาโหย" ตั้งอยู่ที่ หมู่ที่ 1 ตำบลบาโหย โดยมีเขตการปกครอง 5 ตำบล คือ ตำบลบาโหย ตำบลโมง ตำบลเปียน ตำบลเขาแดง และตำบลจะแหน ต่อมาได้ย้ายมาตั้งที่ตำบลโมง (ต่อมาได้เปลี่ยนชื่อเป็นตำบลสะบ้าย้อย) และเปลี่ยนชื่อจาก "กิ่งอำเภอบาโหย" เป็น "กิ่งอำเภอสะบ้าย้อย" เมื่อปี พ.ศ. 2485 และมีเขตการปกครองจำนวน 8 ตำบล 

(โดยเพิ่ม 3 ตำบล คือ)       ตำบลทุ่งพอ(แยกจากตำบลสะบ้าย้อย) 

                                               ตำบลคูหา(แยกจากตำบลเขาแดง) 

                                               ตำบลบ้านโหนด (แยกจากตำบลเปียน)

ต่อมาเมื่อปี พ.ศ. 2499 ได้รับการยกฐานะเป็น "อำเภอสะบ้าย้อย" และเมื่อปี พ.ศ. 2531 ได้เพิ่มเขตการปกครองอีก 1 ตำบลคือ ตำบลธารคีรี (แยกจากตำบลบ้านโหนด และตำบลจะแหน บางส่วน) 
คำว่า "สะบ้าย้อย" เข้าใจว่า เป็นชื่อเถาว์วัลย์ชนิดหนึ่งที่มีผลเป็นฝักคล้ายสะตอ เมื่อผลสุกเมล็ดข้างในที่หุ้มเปลือกหนาจะมีเนื้อแข็งมาก ชาวบ้านนำมาใช้ในการละเล่นชนิดหนึ่ง เรียกว่า "การเล่นสะบ้า" ซึ่งมีมากในบึงแม่สะบ้าย้อย จึงได้นำมาตั้งเป็นชื่อตำบลและอำเภอจนถึงทุกวันนี้

ที่ตั้งของอำเภอสะบ้าย้อย

        อำเภอสะบ้าย้อยตั้งอยู่ทางตอนใต้สุดของจังหวัดสงขลา ห่างจากศาลากลางจังหวัดสงขลาประมาณ ๑๐๕ กิโลเมตร และห่างจากกรุงเทพฯ ระยะทางรถไฟ ๑๑๒๕ กิโลเมตร มีอาณาเขตโดยรอบดังนี้

ทิศเหนือ ติดต่อกับ อำเภอเทพา จังหวัดสงขลา

ทิศใต้ ติดต่อกับ อำเภอยะหา จังหวัดยะลา

ทิศตะวันออก ติดต่อกับ อำเภอยะหา จังหวัดยะลา และอำเภอโคกโพธิ์ จังหวัดปัตตานี

ทิศตะวันตก ติดต่อกับ อำเภอนาทวี จังหวัดสงขลา และประเทศมาเลเซีย

    ลักษณะภูมิประเทศ

    สภาพลักษณะภูมิประเทศส่วนมากเป็นเนินเขาเตี้ยๆ ที่ราบระหว่างหุบเป็นบริเวณแคบๆ สลับด้วยแม่น้ำสายสั้นๆ เช่น แม่น้ำเทพา ซึ่งต้นกำเนิดจากแม่น้ำสายนี้อยู่ในเขตอำเภอสะบ้าย้อย โดยเกิดจากเทือกเขาที่กั้นระหว่างไทยกับมาเลเซีย สภาพลักษณะเป็นเนินเขาจะใช้เป็นที่ประกอบอาชีพในการเกษตรทำสวนกาแฟ สวนยาง สวนผลไม้ ต่างๆ

    ลักษณะภูมิอากาศ

    ระหว่างปลายเดือนตุลาคม-กุมภาพันธ์ ได้รับลมมรสุมตะวันออกเฉียงเหนือทำให้ในเขตอำเภอสะบ้าย้อยฝนตกชุก และถือว่าเป็นฤดูฝนและบางปีจะได้รับภัยธรรมชาติจากพายุ ทำให้ฝนตกน้ำท่วม

นอกจากนี้พายุโซนร้อนพัดผ่านระหว่างเดือนพฤศจิกายน-กลางเดือนมกราคม ระหว่างเดือนมีนาคมถึงเดือนพฤษภาคม จัดว่าเป็นฤดูร้อนเหมือนภาคอื่นของประเทศ

    ขนบธรรมเนียมประเพณีและวัฒนธรรม

                                   ขนบธรรมเนียมประเพณีและวัฒนธรรมมีอยู่ ๒ อย่าง คือ ไทยพุทธ และไทยอิสลาม

                          ไทยอิสลาม : นิยมเล่นลิเกฮูลู มะโหยง สิละ ส่วนทางศาสนา มีพิธีถือบวช

                          ไทยพุทธ : ทางศาสนาทำบุญวันสารทเดือนสิบ การชักพระ ทอดกฐิน ทอดผ้าป่า การละเล่นพื้นเมืองการแสดงมโนราห์ แสดงหนังตะลุง กีฬาพื้นเมือง ชนโค ชนไก่

    โบราณสถานและโบราณวัตถุ

        โบราณสถานและโบราณวัตถุของอำเภอสะบ้าย้อยที่สำคัญมีพระพุทธรูปหลายองค์ด้วยกันที่ประดิษฐานอยู่ตามถ้ำ ตามวัดที่เก่าแก่ ของอำเภอ และเจดีย์ยอดเขา ควนเจดีย์ ตำบลคูหา โบราณวัตถุที่สำคัญมีดังนี้            พระพุทธรูปไสยาสน์ ๒ องค์ ประดิษฐานอยู่ในถ้ำตลอด ตำบลเขาแดง   พระพุทธรูปที่สำคัญของวัดคูหา เจดีย์เป็นโบราณสถานของชาวคูหาซึ่งตั้งอยู่บนยอดเขาควนเจดีย์ ผู้คนอยู่ในอำเภอคูหาและตำบลใกล้เคียงไปนมัสการ ในเดือนเมษายนของทุกๆ ปี มีการสรงน้ำพระบริเวณใกล้เคียงกับเจดีย์มีถ้ำเก ซึ่งภายในมีความสวยงามมากประชาชนจะไปเที่ยวชมประจำ ถ้ำเกิง เป็นถ้ำที่มีพระพุทธรูปประดิษฐานอยู่หลายองค์ด้วยกัน และอีกถ้ำหนึ่งคือ ถ้ำครก เป็นถ้ำที่มีพระพุทธรูปโบราณเก่าแก่ของอำเภอ พระพุทธรูปที่ประดิษฐานที่วัดเกาะอภินิหาร นอกจากนี้มีโบราณวัตถุสร้างมานานเป็นเวลาร้อยปี พระพุทธรูปที่ประดิษฐานตามถ้ำต่างๆ ของอำเภอนั้นมีเรื่องเล่ากันว่า ในสมัยอาณาจักรศรีวิชัยมีการสร้างพระธาตุที่นครศรีธรรมราช และมีการบรรจุพระธาตุ ประชาชนในอำเภอสะบ้าย้อยก็จะนำพระพุทธรูปเหล่านี้ไปไว้ในพระธาตุนครศรีธรรมราช แต่เมื่อรู้ข่าวว่าเขาปิด พระธาตุที่นครเสียแล้ว ประชาชนก็เลยนำพระพุทธรูปเหล่านั้น ไปประดิษฐานตามวัดหรือตามถ้ำต่างๆ ที่ได้กล่าวมาแล้ว