يقصد باتفاق التحكيم اتفاق الطرفين على اللجوء إلى التحكيم، وذلك خارج نطاق القضاء تسويةً للنزاع الذي نشأ أو قد ينشأ، وذلك نتيجة علاقة قانونية معينة سواء كانت عقدية أو غير عقدية .
هذا ما أكدت عليه محكمة النقض المصرية في حكمها (إن حكمة تشريع التحكيم تنحصر في أن طرفي الخصومة يريدان أن يمحص إرادتهما واتفاقهما تفويض أشخاص ليس لهم ولاية القضاء في أن يقضوا بينهما، أو أن يحسموا النزاع بحكم فرضاء طرفي الخصومة هو أساس التحكيم)، وبالتالي لا يمكن اعتبار وجود عملية التحكيم إلا بوجود العنصر الأساسي للعملية ككل، وهو الاتفاق سواء كان هذا التحكيم وطنياً أو دولياً، حراً أو مؤسسياً.
وعرف القانون النموذجي اتفاق التحكيم في المادة (7) (بأنه اتفاق بين طرفين على أن يحيلا إلى التحكيم جميع أو بعض النزاعات المحددة، والتي نشأت أو قد تنشأ بينهما بشأن علاقة قانونية محددة عقدية أو غير عقدية).
وعرف قانون التحكيم الأردني في المادة الثالثة منه اتفاق التحكيم بأنه كل اتفاق يجري في المملكة ويتعلق بنزاع مدني أو تجاري بين طرفي أشخاص القانون العام أو الخاص، أيا كانت طبيعة العلاقة القانونية التي يدور حولها النزاع عقدية كانت أو غير عقدية". .
وهذا التعريف ناقص لأنه يتضمن تعريف الاتفاق في صورة المشارطة ولا يشمل تعريف الاتفاق في صورة الشرط حيث إنه قد يتم قبل قيام النزاع، ولذلك فإن التعريف الوارد بنص المادة العاشرة من قانون التحكيم المصري رقم 27 لسنة 1994 هو الأولى بالاتباع وهو ما يماثل تعريف القانون النموذجي.